#BlastOff

6天前

AI实时语音专家 leeo xiang 老师，开源新项目BlastOff，用小模型先回复，然后大模型续上，实现了毫秒级即时响应，LLM 首句延迟可以大幅降低到100ms级别。 Github：当< 200ms响应，就能感觉像真人对话。在设备端实现高速响应，降低云端延迟！在AI语音应用搞起来！

#AI语音 #实时语音 #LLM #低延迟 #BlastOff