OpenAI这两天刚发的研究文章《为什么大模型会有幻觉》，我重点细究“哪些领域容易有幻觉，哪些领域不容易有幻觉？”等实际应用场景的问题，后面使用时方便仔细审阅容易产生幻觉的场景。可能是最近过的论文有点多，

#OpenAI #大模型 #幻觉 #研究 #论文

相关新闻

阿橡

2小时前

OpenAI罕见发论文：我们找到了AI幻觉的罪魁祸首原因，简单来说就是：标准的训练和评估程序更倾向于对猜测进行奖励，而不是在模型勇于承认不确定时给予奖励。

蓝点网

4小时前

OpenAI 新论文揭示 AI 模型产生幻觉的根本原因：并非神秘故障而是由于当前主流奖励机制造成的问题。现阶段奖励机制是鼓励 AI 模型蒙答案而不是承认自己不知道，这导致 AI 即便不知道答案也会自信满满的给出错误回答，而要解决问题就必须改革评估系统不能单纯追求准确率，要奖励 AI 模型的不确定性回答。查看全文：

dontbesilent

7小时前

多样化的尝试总是有趣的昨天晚上尝试追了一下 OpenAI 的论文热点，竟然在抖音今天早上发现有 1000 多个赞，破个 10 万播放不难考虑出一个论文系列，把辛顿、巴伦霍尔茨的都拿出来拍拍要不要加 BGM 这个事儿没搞清楚评论区有几个人说这个 BGM 的声音影响听清楚内容，但是从流量结果上看并不差这个还得测试，加 BGM 和不加 BGM 的各发3篇，最终看

马东锡 NLP

13小时前

LLM 发展到今天, hallucination 已经不能准确的表达它错误生成的现象。第一种， Hallucinate，幻觉。 LLM 不确定真相，但回答的动机是诚实的，只是事实错误。第二种，Lie，谎言。 LLM知道真相，但要完成某种目的，故意误导，编造谎言。第三种，Bullshit，胡扯。 LLM 根本不在乎真相是什么，对真相漠视，只是完成输出。要理解这三种现

Shawn Pang

14小时前

OpenAI昨天发的博客 - 为什么大模型会有幻觉一句话总结：traditional accuracy-based evals penalize humility and reward guessing 传统的大模型训练奖励机制会更鼓励模型去猜测而非承认自己不知道。还有一系列的truth vs. myth 👇

OpenAI这两天刚发的研究文章《为什么大模型会有幻觉》，我重点细究“哪些领域容易有幻觉，哪些领域不容易有幻觉？”等实际应用场景的问题，后面使用时方便仔细审阅容易产生幻觉的场景。 可能是最近过的论文有点多，

相关新闻

OpenAI这两天刚发的研究文章《为什么大模型会有幻觉》，我重点细究“哪些领域容易有幻觉，哪些领域不容易有幻觉？”等实际应用场景的问题，后面使用时方便仔细审阅容易产生幻觉的场景。可能是最近过的论文有点多，