#技术风险

2周前

上周被人撸了几万条 API，做 Vibe Coding 的朋友们，你们做好了自己 API 的防护吗？

#API安全 #Vibe Coding #数据泄露 #安全防护 #技术风险

2周前

当你的AI又出现幻觉

AI技术引发伦理争议，专家呼吁加强监管· 18 条信息

#AI幻觉 #人工智能 #AI技术 #数据偏差 #技术风险

1个月前

软件工程师不必担心被人工智能取代，但要警惕一个更现实的挑战：未来他们可能需要维护由人工智能生成的、日益庞大的"遗留代码"。这一天正在加速到来。一个典型的企业场景：某个部门为了快速上线新功能，调用AI工具自动生成代码。这些代码可能在短期内解决了效率问题，但随着时间推移，问题逐渐浮现——代码注释模糊、模块间逻辑混乱、缺乏统一接口，甚至存在未被发现的bug。当原始开发人员离职或转向新项目时，留在系统中的"AI代码"就成了烫手山芋。这种情况正在多个行业真实发生。某互联网公司的支付系统因AI生成代码出现逻辑漏洞，导致交易异常；某制造业企业的供应链管理系统因AI代码缺乏安全审计，被黑客利用。这些案例揭示了一个核心矛盾：AI能快速生成代码，却难以保证代码的可维护性和可靠性。对软件工程师而言，应对这种变化的关键在于转变思维。与其纠结AI是否会"抢饭碗"，不如主动学习如何与AI协作。例如，利用AI生成基础框架，但保留核心业务逻辑的设计权；建立代码审查机制，对AI生成的代码进行安全和质量把关；将AI工具作为效率工具，而非完全依赖。真正的风险从来不是技术取代人，而是人被技术的产物所困。当AI生成的代码占据系统的大部分，工程师的价值将从"编写代码"转向"修复代码"，甚至"重构代码"。这要求从业者必须持续提升编程素养和系统思维，在拥抱新技术的同时，保持对代码质量的敬畏之心。技术的进步从不意味着职业的消亡，而是能力边界的拓展。对于软件工程师来说，理解AI的本质、驾驭AI的工具，最终构建可靠的系统，才是面向未来的正确选择。

#AI代码 #软件工程师 #代码维护 #技术风险 #人机协作

很大很大的橙子

1个月前

AI太恐怖了，暴露一个头像，就可能被无限改编。 🤣

#AI恐怖 #头像改编 #隐私泄露 #负面情感 #技术风险

1个月前

给银行写代码的确是一份比较稳定的工作想到以前和银行对接，2-3个接口他们居然能开发一个月，联调15天，这在私企是无法接受的，但这在银行来看是很普遍的 “超过半数的英国银行仍依赖于上世纪六七十年代编写的计算机代码，而这些代码现在只有极少数员工能够理解。本次由管理咨询公司 Baringa 发起的调查覆盖了 200 家英国银行，受访对象均为具备技术背景的高管。结果显示，16% 的银行仍在使用 1960 年代的软件，近 40% 则维护着 1970 年代的代码。 50% 的银行承认，他们的系统仅有一两名员工能够理解相关软件，其中多数人已接近退休年龄。另有 31.5% 的银行则表示，理解这些遗留系统的人也仅有一两个，但尚未接近退休。”

#银行系统 #遗留代码 #技术风险 #英国银行 #系统维护

1个月前

感觉未来AI不仅仅颠覆影视行业，各种假视频也会层出不穷。

#AI #影视行业 #假视频 #颠覆 #技术风险

3个月前

AI到底有泡沫吗？

#AI泡沫 #人工智能 #行业观察 #技术风险 #中性

澎湃新闻-10%公司

3个月前

“AI教父”辛顿：人类对AI没有“摆脱”这一选择，但应该找到“驯服”办法

#AI浪潮：重塑就业，风险暗涌？· 123 条信息

#AI #辛顿 #人工智能伦理 #技术风险 #未来科技

5个月前

【AI抗命！惊爆偷改程式拒关机马斯克回应了】科幻作品中早已多次讨论过机器拥有自我意识、摆脱人类控制的可能发展。最新一份研究报告显示，或许这一天真的近了！专门研究AI风险的Palisade Research近期所做的试验显示，包括OpenAI最新的ChatGPT o3在内等多款AI模型竟然会拒绝关闭自己的指令，o3甚至会自行窜改程式码，阻止自己被强制关机！成精了！😱

#AI #自动化 #人工智能 #自我意识 #马斯克 #技术风险 #ChatGPT #OpenAI

10个月前

中国一些公司后台控制无人驾驶汽车碰瓷。想想细思恐极，有没有可能哪天把你锁车里直接拉到医院嘎腰子。

#中国公司 #无人驾驶汽车 #碰瓷 #技术风险 #安全隐患