OpenAI 揭秘：AI为什么会一本正经地胡说八道？ OpenAI 最近发表了一篇名为《语言模型为何会产生幻觉》(Why Language Models Hallucinate) 的文章，深入解释了 AI “幻觉”产生的根本原因，并提出了减少这种现象的解决方案。规则的“锅”：AI 被鼓励去猜测，而非承认无知文章指出，大语言模型之所以会产生“幻觉”，是因为我们现有的训练和评估方式存在一个根本性

#OpenAI #AI幻觉 #语言模型 #预训练 #诚实AI

相关新闻

henu王凯

1小时前

OpenAI这两天刚发的研究文章《为什么大模型会有幻觉》，我重点细究“哪些领域容易有幻觉，哪些领域不容易有幻觉？”等实际应用场景的问题，后面使用时方便仔细审阅容易产生幻觉的场景。可能是最近过的论文有点多，

蓝点网

1小时前

OpenAI 新论文揭示 AI 模型产生幻觉的根本原因：并非神秘故障而是由于当前主流奖励机制造成的问题。现阶段奖励机制是鼓励 AI 模型蒙答案而不是承认自己不知道，这导致 AI 即便不知道答案也会自信满满的给出错误回答，而要解决问题就必须改革评估系统不能单纯追求准确率，要奖励 AI 模型的不确定性回答。查看全文：

dontbesilent

3小时前

多样化的尝试总是有趣的昨天晚上尝试追了一下 OpenAI 的论文热点，竟然在抖音今天早上发现有 1000 多个赞，破个 10 万播放不难考虑出一个论文系列，把辛顿、巴伦霍尔茨的都拿出来拍拍要不要加 BGM 这个事儿没搞清楚评论区有几个人说这个 BGM 的声音影响听清楚内容，但是从流量结果上看并不差这个还得测试，加 BGM 和不加 BGM 的各发3篇，最终看

Shawn Pang

10小时前

OpenAI昨天发的博客 - 为什么大模型会有幻觉一句话总结：traditional accuracy-based evals penalize humility and reward guessing 传统的大模型训练奖励机制会更鼓励模型去猜测而非承认自己不知道。还有一系列的truth vs. myth 👇

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

1天前

Why language models hallucinate | OpenAI GPT-5能知道自己不知道，这是元认知级别的能力！