相关新闻

placeholder

henu王凯

1小时前

OpenAI这两天刚发的研究文章《为什么大模型会有幻觉》，我重点细究“哪些领域容易有幻觉，哪些领域不容易有幻觉？”等实际应用场景的问题，后面使用时方便仔细审阅容易产生幻觉的场景。 可能是最近过的论文有点多，

placeholder

蓝点网

1小时前

OpenAI 新论文揭示 AI 模型产生幻觉的根本原因：并非神秘故障而是由于当前主流奖励机制造成的问题。 现阶段奖励机制是鼓励 AI 模型蒙答案而不是承认自己不知道，这导致 AI 即便不知道答案也会自信满满的给出错误回答，而要解决问题就必须改革评估系统不能单纯追求准确率，要奖励 AI 模型的不确定性回答。 查看全文：

placeholder

dontbesilent

4小时前

多样化的尝试总是有趣的 ​ ​昨天晚上尝试追了一下 OpenAI 的论文热点，竟然在抖音今天早上发现有 1000 多个赞，​破个 10 万播放不难 ​ ​考虑出一个论文系列，把辛顿、巴伦霍尔茨的都拿出来拍拍 ​ ​要不要加 BGM 这个事儿没搞清楚 ​ ​评论区有几个人说这个 BGM 的声音影响听清楚内容，但是从流量结果上看并不差 ​ ​这个还得测试，加 BGM 和不加 BGM 的各发3篇，最终看

placeholder

Shawn Pang

11小时前

OpenAI昨天发的博客 - 为什么大模型会有幻觉 一句话总结：traditional accuracy-based evals penalize humility and reward guessing 传统的大模型训练奖励机制会更鼓励模型去猜测而非承认自己不知道。 还有一系列的truth vs. myth 👇

placeholder

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

1天前

Why language models hallucinate | OpenAI GPT-5能知道自己不知道，这是元认知级别的能力！