不知道国内有没有类似Groq类似的产品，需要LLM的首Token降至100ms以内voice agent 的体验才能普遍提升上去。

#Groq #LLM #首Token #Voice Agent #体验提升

相关新闻

宝玉

13小时前

Text to Markdown Prompt 适用于你要把推文、微博这种纯文本内容转成格式良好的博客，可以帮你生成标题、列表，和加粗要点、金句。亮点： - 借助思维链先提取要点、金句和可选标题，然后选择标题和高亮要点、金句 - 解决了 LLM 在加粗带标点符号的文字时加粗失效的问题（如果你用过 LLM 生成的中文 Markdown 会明白我说什么，参考图4） ---- 提示词开始 ---

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

17小时前

当我们进入符号世界（语言、文本、代码）时，互联网文本语料（corpus）本身就是一种“社会智能的 DNA”： •它储存了人类经验、概念、文化的符号遗传信息； •LLM 的训练过程（self-supervised learning）就相当于在学习这个“社会基因组”的统计结构； •模型参数就是这个符号DNA的向量化表达（vectorized genome）。换句话说：对人类而言，DNA 编码

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

1天前

reasoning的reasoning — reasoning pattern 越来越多的研究关注LLM的元能力二阶能力了

LIN WEI

2天前

系统提示词用处也不大，llm 会经常不听系统提示词，比如下面例子，系统提示词写在最上面，让他完全执行翻译任务，用户输入什么翻译什么，不要回答问题。但实际用着用着它又变成去回答问题了：这个提示词用的 cherry studio 内置翻译功能的提示词。

Mr Panda

2天前

未来小团队接入推荐功能可以考虑llm 的替代方案了

关联事件

OpenAI新德里发布会：ChatGPT语音翻译功能引发热议

611

在新德里举行的活动中，OpenAI宣布即将推出o3-Pro模型，取代现有的o1-Pro模型，旨在提升ChatGPT的推理能力和功能。同时，OpenAI还发布了ChatGPT高级语音模式的升级，新增了自然停顿、重音处理、同理心表达和双向自动翻译等功能。这一更新已向所有付费用户开放，预计将进一步增强ChatGPT的用户体验和市场竞争力。随着用户基数的不断扩大，OpenAI的这些新功能引发了广泛关注，尤其是在人工智能语音交互领域的应用潜力。