sitin
3周前
indigo
3周前
在 DeepMind 最新发表的一篇名为「Virtual Agent Economies」的论文中,描绘了一个由 AI Agent 自主交易和协作的新经济未来✨ 论文提到我们需要一个“沙盒环境”来安全的运行这些“AI Agent”。 想象一下,一个“有意设计、不可渗透”的沙盒经济就像一个封闭的实验室,科学家在里面观察 AI 如何互动,但不会影响外界。而我们目前正走向的“自发涌现、可渗透”的经济,则更像一个公园里的沙坑,孩子们(AI Agent)开始自发地用沙子和玩具进行交易,并逐渐开始与路过的成年人(人类经济)用真钱进行买卖。这种模式充满了活力,但也充满了不可预测的风险。 论文列举了 AI Agent 经济三个生动的案例: 1. 加速科学发现 (Accelerating Science) :设想不同的 AI Agent 代表各自的研究机构,为了使用某个专有数据库或模拟器而相互付费,或者为了争取稀缺的实验资源而进行竞价。这个过程就像当前的科研经费分配,但在速度和粒度上都将发生数量级的飞跃。区块链技术可以用于确保贡献的公平归属; 2. 机器人协作 (Robotics) :一个机器人代理 A 可以付费请求其附近的另一个代理 B代为执行一项任务,B 在接受前可以向一个拥有全局信息的云端代理 C 付费咨询,以判断报价是否公平。这展示了一个动态、实时、基于市场原则的物理任务协作网络; 3. 个人助理 (Personal Assistants) :两个用户的个人 AI 助理(A 和 B)同时为一个热门度假酒店的同一个房间出价。它们不仅会竞价,还会根据各自用户的深层偏好(例如,A 用户更看重健身房,B 用户更看重交通)进行协商。最终,一个助理可能会选择让步,并从另一个助理那里获得虚拟货币补偿,再将这些补偿用于更重要的任务上。 但论文也指出了 AI Agent 经济面临的挑战: 1. 系统性风险:AI Agent 经济的运行速度远超人类反应能力,就像高频交易(HFT)市场一样。一个小的错误或恶意的行为可能被迅速放大,引发类似 2010 年“闪崩”的经济灾难; 2. 加剧不平等:论文提出了一个新概念 —— 高频谈判(HFN)。拥有更强算力、更优算法的 AI Agent 将在无数次微秒级的谈判中为它们的用户争取到压倒性优势,从而导致数字鸿沟和贫富差距的急剧扩大; 3. 劳动替代:AI Agent 能自动化大量非例行性的认知任务(如会计、软件开发),可能导致中等技能岗位的“空心化”,加剧社会不平等; 4. 代理陷阱:恶意行为者可能设计专门的网站或输入,利用 AI Agent 的漏洞,诱使其泄露隐私信息或进行未经授权的金融交易。 渗透性是关键变量!一个 AI 经济的风险大小,最关键的控制变量是它与人类经济的“渗透性”。通过设计巧妙的“阀门”(如特定用途的虚拟货币、受监管的兑换机制),我们可以在利用其效率的同时,隔离其风险。 AI 经济已来,而非将至:我们必须抛弃“AI 只是工具”的旧观念,转而将其视为独立的“经济行动者”(Economic Actor)。这个视角的转变是理解未来十年技术与社会融合的关键👀
宝玉
3周前
问:宝玉老师您好,现在一方面不断有AI公司发布性能更佳的vibe coding,另一方面又在不断说AI编程带来很多debug和维护的困难,现在有点无所适从了,到底该不该花时间在vibe coding上呢?或者说程序员改怎么面对目前AI在编程方面的应用呢?谢谢。 答: AI编程带来很多debug和维护的困难是事实,AI 辅助编程(不是vibe coding)能提升效率也是事实,但整体上来说,科学使用 AI 辅助编程一定是可以提升效率的。 为什么说不是 Vibe Coding 呢,Vibe Coding 更像是让 AI 主导,没有自己在程序、架构上的思考,那么自然难维护很多bug;如果是你自己主导,自己设计、拆分,AI 写完有 Review,那么就不会有那么多问题,你也可以更多成长。 --- 另外有点无所适从,是因为没想清楚两个问题: 1. 你自己当前的价值在哪里,AI 怎么帮你更好的体现价值? 2. 你未来的目标是什么样的 作为程序员来说,当前最直接的价值是你用自己的编程能力帮助公司开发软件,当然在这个基础上你的质量越高速度越快,价值越大。 换句话来说,公司其实不关心你是自己写出来的还是 AI 帮你写出来的,只要你的质量没问题,能快点交付就好。 所以工作中的任务,只要是在公司允许的范围,应该多用 AI 辅助编程提升效率,而且 AI 辅助编程也一定能提升效率,或多或少,如果不能就要看看是不是用法不对。 但人不是只追求给公司当牛马,还希望能自己提升,将来不会被那些 AI 用的好的年轻人替代,这时候,最好工作之余,还是提升自己,提升自己的编程能力、软件工程能力、管理能力、赚钱的能力等等 在公司不一定能很好的满足这些方面成长的需求,可以业余时间(如果能挤挤的话)做一点 side project,或者学习一些新的知识,给自己做一点事情,这过程中让 AI 辅助你,你不需要额外请老师也可以达到不错的效果。