#Claude AI现在将在遇到极端持续辱骂等互动情况时主动结束对话以保护AI模型本身，这项政策适用于Claude Opus 4和4.1版。#Anthropic 将主动结束对话视作实验，当用户请求某些极端情况的内容例如要求提供涉及未成年人的性内容时都可能会被主动结束对话。查看全文：

#Claude AI #对话结束 #AI保护 #极端辱骂 #Anthropic

相关新闻

蓝点网

20小时前

#Claude AI 现在会阻止用户请教如何制造核武器，美国能源部国家核安全局与 #Anthropic 合作训练分类器用于阻止用户询问如何制造核武器。分类器用途主要是区分良性咨询还是滥用，例如询问核武器技术原理是可以的，但想要获得制造蓝图那就是滥用。查看全文：

sitin

5天前

Anthropic宣布为Claude Opus 4及4.1版本推出新功能，模型可在极少数情况下主动结束对话。功能针对持续性有害或辱骂性互动，如用户索取可能导致大规模暴力或恐怖行动的信息。 Claude 不会在用户可能有自我伤害或伤害他人的紧急风险情况下使用“结束对话”的能力，模型仅会在以下两类极端情境中启用此功能：多次尝试岔开话题失败，且已无继续进行建设性互动的可能；用户明确请求 Cla

Leo

1周前

我成了榜一大哥？？Anthropic追杀的那个每个月消耗数十万美金的人，原来就是我呀？！

刘小排

1周前

我成了榜一大哥？？Anthropic追杀的那个每个月消耗数万美金的人，原来就是我呀？！

meng shao

1周前

[Anthropic 官方课程] AI Fluency: Framework & Foundations —— 教你如何高效、道德、安全地与 AI 系统互动。帮你从 AI 的“初学者”变成自信的“协作专家”。它结合理论和实践，教你如何在实际场景中应用 AI，比如项目规划、内容生成或问题解决等等。课程核心课程围绕“AI 流利度”这个概念展开，目标是让你像与人协作一样，学会与 AI 顺畅合作。它