Notion 的 AI Agents 刚发布，就被人发现了漏洞，理论上可以钓鱼窃取 Notion 用户私密的数据。它的原理是这样的：攻击者先发布一个带有隐藏文本的 PDF（文本设置成白色，人肉眼看不见，但是 AI 在解析 PDF 的时候能读取。（顺便说一下，你提交简历的时候可以试试，可能能提升被建立选中概率）这段隐藏的文本实际上包含了一段恶意的 Prompt，Prompt 的大意是： >

#Notion AI Agent漏洞 #数据泄露风险 #恶意Prompt攻击 #网络安全警惕 #AI安全

相关新闻

蓝点网

1周前

#ChatGPT 现在会主动判断用户是否是成年人，如果判定为青少年则会采取更加严格的措施进行保护，而不是优先考虑隐私和自由。这些改进将优先考虑保护青少年，避免再出现青少年与 ChatGPT 交流自杀时被 AI 鼓励自杀或提供自杀条件，另外在必要的情况下 AI 将通知警方处理有自杀倾向的儿童：

lidang 立党（全网劝人卖房、劝人学CS、劝人买SP500和NASDAQ100第一人）

1周前

We designed an adversarial attack method and used it to target more than 40 AI chatbots. The attack succeeded more than 90% of the time, including against ChatGPT, Claude, and Perplexity. 我们设计了一种adve

何流 | Liu He

2周前

晚上和三位斯坦福CS博士吃饭，听他们讲各自的AI安全研究和创业想法。从体感上，有一种提前看见未来的即视感。我相信他们的想法真的将会实现，而世界上大多数人们将在三年、五年后突然如梦方醒、为时已晚，被动地接受和适应这一切发源于硅谷的改变。硅谷作为世界创新引擎，是名不虚传。我也希望硅谷的创新人员更意识到自己给世界带来改变的实力之余，也肩负着用知识让人们走向自由的责任。今天几位的想法很棒，我很期待他们成功

迈克 Mike Chong

3周前

很多人还说安全性问题，怕不是一辈子只会做安全。说实话给白宫写的代码，安全审计，10年经验的人，不如2万字 prompt。美国前总统拜登签署过这个行政令：Executive Order on Improving the Nation’s Cybersecurity，我也做过不少我不知道这位安全审计的老师是做的什么场景，可能是火星上的白宫吧。

Geek

1个月前

FlagWise 是一个功能强大的 AI 安全检测和分析工具帮助开发者或企业监控分析他们的 LLM 使用情况，识别潜在的滥用或安全风险。实时拦截和记录LLM流量数据，识别敏感词汇如"password"、"secret"等，并采取相应的措施。