AI实时语音专家 leeo xiang -news.news·换个方式看新闻

0 关注者

6天前

AI实时语音专家 leeo xiang 老师，开源新项目BlastOff，用小模型先回复，然后大模型续上，实现了毫秒级即时响应，LLM 首句延迟可以大幅降低到100ms级别。 Github：当< 200ms响应，就能感觉像真人对话。在设备端实现高速响应，降低云端延迟！在AI语音应用搞起来！

#AI语音 #实时语音 #LLM #低延迟 #BlastOff

相关新闻

0xTodd

15小时前

看来这次轮到我的号进入 ChatGPT 的灰度测试了😆 Plus 账号可以体验 GPT 官方的 AI Agent 了。想重申一下我的观点，上周晚上和 Amber 那次直播里我也提到过： 1. 未来大模型 LLM 自己就会亲自做 AI Agent，然后凭借自己的入口优势占掉绝大多数市场。 2. 第三方 AI Agent 是个少见的边际效应不会递减的生意。你如果做 AI Agent 一直用其

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

1天前

阶跃星辰stepfun可以的，这个step3的部署架构把attention和MLP分开，效率更高！ LLM的下一个突破是啥？attention+MLP+？

大罗SEO

1天前

谷歌发布了一篇新的关于LLM如何通过上下文进行学习的Paper，给未来GEO优化提供了些新的方向：论文的核心发现是，LLM能够在不更新权重的情况下，通过前向传播（forward pass）中的低秩更新（rank-1 tweak）来适应新模式。这种机制表明，模型可以通过上下文提示动态调整其行为，而无需传统的梯度下降训练。

Limbo

1天前

我想知道对于 LLM 输出 JSON 超出max_tokens 被截断了，大家都是怎么处理的？注意有些模型 continue 并不会从当前截断的 JSON 处恢复。

阿橡

2天前

字节推出中英同传新模型：模拟音色延迟近专业同传译员水平该模型实现了平均2-3秒的语音到语音延迟，具备实时模仿不同说话人音色以保留身份特征的能力，并支持对上下文、文化背景及包括绕口令、诗词、美食文化在内的复杂表达的理解与互译。