#AI安全风险

DW 中文- 德国之声

3周前

人工智能（AI）聊天机器人ChatGPT的母公司OpenAI 周二（10月7日）发布“公共威胁报告”，宣布封锁多个疑似与中国政府有关连的ChatGPT帐号。 OpenAI指出，部分用户曾要求ChatGPT介绍社交媒体监听工具，和其他监控计划，但此举违反OpenAI的安全政策。随着美中在生成式AI领域的竞争持续升温，OpenAI在报告中针对生成AI技术可能被滥用的安全风险示警。 OpenAI也封锁了多个中文帐号，并称这些用户利用ChatGPT协助网路钓鱼和恶意软体活动，甚至要求ChatGPT研究如何透过中国的深度求索（DeepSeek）平台进行更多自动化功能。另外也有部分疑似和俄罗斯犯罪集团有关的帐号，因利用ChatGPT协助开发恶意软体被封禁。自截稿为止，中国驻美国大使馆尚未回覆相关报导。 OpenAI自去年2月开始发布“威胁通报”，已累积封锁并检举了超过40个网络。该公司强调，ChatGPT会拒绝“明显带有恶意”的要求，“我们没有发现任何存在新型攻击手法的证据，也没有发现我们的模型为威胁行为者提供了新的攻击手法。”

#OpenAI #ChatGPT #中国 #网络安全 #AI安全风险

3个月前

今天分析了个App，一打眼就是纯AI产物，安全性为0，基本可以分分钟刷爆作者的信用卡… 现在大把人教别人用AI做开发，实际自己也是半桶水，安全风险是一点也不顾，然后下面的学员钱没赚到，倒是可能背一个巨额账单，自己还不知道为什么😂

#AI安全风险 #AI开发陷阱 #信用卡盗刷风险 #AI应用安全性 #开发者安全意识