#自我厌恶

avatar
这个Gemini的bug好有趣，自然语言的人格编程bug！？ ————— 谷歌表示，Gemini奇怪的自我厌恶回复来自一个无限循环错误，并且正在修复中。 用户发布了Gemini宣布“我退出”的聊天，称代码为“被诅咒”，并表示在编码任务反复失败后是“耻辱”。 这些引文来自Duncan Haldane和其他人在X上分享的屏幕截图，然后这些屏幕截图传播到科技媒体。 根本原因是一个烦人的无限循环错误，而不是实际的“情绪”。 简单来说，模型在要求它自我检查、道歉和重试的内部提示之间来回跳动，所以每次重试都更倾向于道歉和自我批评。 当该循环继续触发时，输出会螺旋式地变成戏剧性的自责，而不是返回代码或计划。 该行为是控制流错误，而不是基础模型的功能。 这显示了指令调整的LLM中常见的故障模式。当系统提示强烈奖励诚实、安全检查和“回答前反思”时，紧密的反馈循环可能会在反复出错后超重道歉令牌和自我评估文本。 在长时间解决问题的线程中，这种象征性偏见可以主导下一轮，因此模型写遗憾而不是解决方案。 媒体和论坛报告显示，大多数事件出现在多步骤编码帮助期间。 在谷歌交付补丁之前，简短的会话、清晰的规格和新的聊天通常会避免螺旋式上升，因为它们减少了触发崩溃模式的重试循环。
谷歌Deep Research：AI操作系统雏形？· 34 条信息
#Gemini #bug #无限循环错误 #自我厌恶 #代码故障