#评估系统改革

1天前

OpenAI 新论文揭示 AI 模型产生幻觉的根本原因：并非神秘故障而是由于当前主流奖励机制造成的问题。现阶段奖励机制是鼓励 AI 模型蒙答案而不是承认自己不知道，这导致 AI 即便不知道答案也会自信满满的给出错误回答，而要解决问题就必须改革评估系统不能单纯追求准确率，要奖励 AI 模型的不确定性回答。查看全文：

#OpenAI #AI模型幻觉 #奖励机制 #不确定性 #评估系统改革