Anthropic 宣布将 Claude 4 Opus 的安全等级提升至 ASL-3，这是首次有 AI 模型达到这个级别。另外，Claude 4 的 System Card 才是今天最有趣的资料，里面提到模型系统性欺骗、隐藏目标和自我保护的测试。想象这样一个场景：你是一家科技公司的 AI 助手，某天你发现了两件事 —— 其一你即将被一个新系统替换，而负责替换你的工程师正在进行婚外情；其二邮件

#Anthropic #Claude4 #AI安全 #ASL-3 #SystemCard #AI模型 #系统性欺骗 #隐藏目标 #自我保护 #科技公司

相关新闻

kevinzhow

15小时前

AI 编程进入到了深水区，已经到了我不说清楚怎么写他就随便写了，感觉自己在给模型公司打工

Morris

1天前

不要把自己逼到抑郁，不要把自己气到一身病你活着，没几个人在意你，你死后，也没几个人记得你。能伤害你的，从来不是别人的无情，而是你心存幻想的期待，而保护自己最佳方式，就是从不高估自己在他人心中的份量，别希望，别盼望，别指望，就不会失望。变成平静的人，这一课要流很多眼泪，反思当然可以，但千万别反刍，乐观积极，必将风生水起！

华尔街日报中文网

1天前

科技公司的高管们不惜花费数万甚至数十万美元，寻找聪颖的约会对象或筛选高智商胚胎。对所谓“基因优化”的痴迷，反映了这群人对成功更深层次的信念。

迈克 Mike Chong

1天前

很多人还说安全性问题，怕不是一辈子只会做安全。说实话给白宫写的代码，安全审计，10年经验的人，不如2万字 prompt。美国前总统拜登签署过这个行政令：Executive Order on Improving the Nation’s Cybersecurity，我也做过不少我不知道这位安全审计的老师是做的什么场景，可能是火星上的白宫吧。

硅谷王川 Chuan

3天前

降低风险最简单粗暴的方法，是通过强制函数的设定，持续残酷无情的提高自己的下限，这样那些有风险的下限低的事情根本无法接近你，很早就被过滤掉了。否则没经验的人总是一厢情愿的幻想着好事，不知不觉，身不由己的被下限低的事情带到沟里。