#实时代理

Leo Xiang

2周前

网络延迟已经超过推理延迟，对于在构造realtime agent的公司来说要及早构建自己asr/llm/tts的闭环，只有在需要强推理的情况下才调用外部大模型。

#网络延迟 #实时代理 #ASR #LLM #TTS #闭环 #推理延迟 #大模型