澎湃新闻-对齐Lab
0 关注者
Ken Wong
1个月前
当你的AI又出现幻觉
Philip Fan
2个月前
给黄大律师和陈大律师的明年愚人节礼物:制裁动议已经在路上了,慢用不谢!
Tiger Chen & 前端之虎陈随易
这两天研究了一个很有意思的东西,可以VSCode+Copilot的代码质量提高至少1倍以上。简单来说就是,用特定的chatmod+项目级别的指令文件,可以减少很多AI幻觉。
Meathill
越是历史长、链条长的需求,AI 幻觉也越严重。比如这两天,我在开发邮件->AI自动处理的功能。这就需要用户发邮件给我们分配的邮箱,所以需要在 Cloudflare 上配置 Email Routing+Email Worker。然后Gemini就告诉我不能用二级域名收邮件,但使用Google搜索,会看到官方文档有介绍如何实现这个功能。
阿橡
OpenAI罕见发论文:我们找到了AI幻觉的罪魁祸首 原因,简单来说就是:标准的训练和评估程序更倾向于对猜测进行奖励,而不是在模型勇于承认不确定时给予奖励。