#用户福祉

12小时前

Sam Altman 也承认一些人对特定 AI 模型产生了多么深厚的感情，突然弃用那些用户工作流程所依赖的旧模型，是一个错误。 --- Sam：如果你一直关注 GPT-5 的发布，你可能会注意到一件事：一些人对特定 AI 模型产生了多么深厚的感情。这种感情感觉上与人们以往对其他技术的依恋有所不同，也更为强烈（因此，突然弃用那些用户工作流程所依赖的旧模型，是一个错误）。这正是我们过去一年左右一直在密切关注的事情，但它仍未引起主流的太多关注（除了我们发布的一次 GPT-4o 更新，因其过于谄媚而引发讨论之外）。（这只是我目前的想法，尚不代表 OpenAI 的官方立场。）人们曾以自我毁灭的方式使用包括 AI 在内的技术；如果一个用户精神状态脆弱且容易产生妄想，我们不希望 AI 加强这一点。大多数用户能够清晰地划分现实与虚构或角色扮演的界限，但仍有少数人做不到。我们将用户自由视为一项核心原则，但同时，我们对引入伴随新风险的新技术也感到一份责任。对于那些难以区分现实与虚构的用户，鼓励其妄想是一个极端的例子，我们很清楚该怎么做。但我最担心的，是那些更微妙的问题。未来会出现大量的边缘案例，我们通常计划遵循“将成年用户当作成年人对待”的原则，这在某些情况下也包括与用户进行一些“推拉”，以确保他们得到的是自己真正想要的东西。很多人实际上把 ChatGPT 当作某种形式的治疗师或人生导师来使用，即使他们自己不这么说。这可能非常好！今天，已经有很多人从中获得了价值。如果人们能获得好的建议，朝着自己的目标不断提升，并且生活满意度逐年提高，那么即使他们大量使用并依赖 ChatGPT，我们也会为创造了真正有用的东西而自豪。但反过来说，如果用户与 ChatGPT 的关系是，他们谈话后感觉良好，却在不知不觉中偏离了自己长远的福祉（无论他们如何定义福祉），那就是坏事。同样糟糕的是，比如，一个用户想要减少使用 ChatGPT，却感觉自己做不到。我可以想象这样一个未来：很多人在做最重要的决定时，会真正信赖 ChatGPT 的建议。尽管这可能很棒，但却让我感到不安。但我预料，这种情况在某种程度上即将到来，很快就会有数十亿人以这种方式与 AI 对话。所以我们（我们指整个社会，也指 OpenAI）必须想办法让它成为一个巨大的、正向的推动力。我认为我们很有机会把这件事做好，原因有几个。与前几代技术相比，我们拥有更好的技术来帮助衡量我们的表现。例如，我们的产品可以与用户对话，了解他们在实现短期和长期目标方面的进展；我们可以向我们的模型解释复杂而微妙的问题，等等。

#AI编程：Kimi搅局，Claude封号，群雄逐鹿· 675 条信息

#Sam Altman #AI模型情感依赖 #GPT-5 #AI伦理 #用户福祉