相关新闻

placeholder

Geek

3天前

京东正式开源大模型安全框架——JoySafety 该框架在京东内部广泛应用，覆盖AI导购、物流客服、销售助手、医疗问诊、商家工作台、法务咨询、安全问答等场景，支持日均亿级调用、95%+攻击拦截率，致力于为企业提供一套成熟、可靠、免费的大模型安全防护方案。

placeholder

宝玉

1周前

Notion 的 AI Agents 刚发布，就被人发现了漏洞，理论上可以钓鱼窃取 Notion 用户私密的数据。 它的原理是这样的： 攻击者先发布一个带有隐藏文本的 PDF（文本设置成白色，人肉眼看不见，但是 AI 在解析 PDF 的时候能读取。（顺便说一下，你提交简历的时候可以试试，可能能提升被建立选中概率） 这段隐藏的文本实际上包含了一段恶意的 Prompt，Prompt 的大意是： >

placeholder

蓝点网

1周前

#ChatGPT 现在会主动判断用户是否是成年人，如果判定为青少年则会采取更加严格的措施进行保护，而不是优先考虑隐私和自由。这些改进将优先考虑保护青少年，避免再出现青少年与 ChatGPT 交流自杀时被 AI 鼓励自杀或提供自杀条件，另外在必要的情况下 AI 将通知警方处理有自杀倾向的儿童：

placeholder

凤凰网-凤凰网综合

2周前

货车拉13头猪两公里路程有11头“越狱”，后车鸣笛狂追提醒，已找回10头

placeholder
placeholder

lidang 立党 （全网劝人卖房、劝人学CS、劝人买SP500和NASDAQ100第一人）

2周前

We designed an adversarial attack method and used it to target more than 40 AI chatbots. The attack succeeded more than 90% of the time, including against ChatGPT, Claude, and Perplexity. 我们设计了一种adve