OpenAI昨天发的博客 - 为什么大模型会有幻觉一句话总结：traditional accuracy-based evals penalize humility and reward guessing 传统的大模型训练奖励机制会更鼓励模型去猜测而非承认自己不知道。还有一系列的truth vs. myth 👇

#OpenAI #大模型 #幻觉 #奖励机制 #猜测

相关新闻

马东锡 NLP

5小时前

LLM 发展到今天, hallucination 已经不能准确的表达它错误生成的现象。第一种， Hallucinate，幻觉。 LLM 不确定真相，但回答的动机是诚实的，只是事实错误。第二种，Lie，谎言。 LLM知道真相，但要完成某种目的，故意误导，编造谎言。第三种，Bullshit，胡扯。 LLM 根本不在乎真相是什么，对真相漠视，只是完成输出。要理解这三种现

dontbesilent

14小时前

国内有大模型，但是没有 AI 这是两码事

海拉鲁编程客

18小时前

九月 AI 缴费策略调整 - chatgpt 200刀保持不变 codex cli + gpt 5 high 当前版本最强，我的codebase 已经达到了 12w ts，依旧指哪打哪，极其细腻的微操，极低的返工率。 chatgpt pro 强悍到不行，冷门问题一修一个准。 - claude 20刀降到 0 刀 sonnet 基本被国内开源大模型追上，opus 虽然强但不够给 gpt

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

21小时前

Why language models hallucinate | OpenAI GPT-5能知道自己不知道，这是元认知级别的能力！

howie.serious

22小时前

llm幻觉的分类、根本原因与解决方案｜openai 最新blog 《Why language models hallucinate》 === 信心满满张嘴就来、一本正经胡说八道，人类如此嘲讽llm的“幻觉” (Hallucination) 。（其实，人类自己在这方面也相当不差🤣）作为用户，以及有大量学习经验的人类学习者，我们可以根据实际经验，把 llm 幻觉大致分为两种：一种是预训练阶段

OpenAI昨天发的博客 - 为什么大模型会有幻觉 一句话总结：traditional accuracy-based evals penalize humility and reward guessing 传统的大模型训练奖励机制会更鼓励模型去猜测而非承认自己不知道。 还有一系列的truth vs. myth 👇

相关新闻

OpenAI昨天发的博客 - 为什么大模型会有幻觉一句话总结：traditional accuracy-based evals penalize humility and reward guessing 传统的大模型训练奖励机制会更鼓励模型去猜测而非承认自己不知道。还有一系列的truth vs. myth 👇