indigo
3个月前
“一个知道为什么活着的人,可以承受任何痛苦。” 这或许是 Indigo Talk EP28 期对谈的终极启示:真正的智能不是计算能力,而是找到存在的理由。当我们创造 AI时,不应只赋予它智力,更要帮它找到“为什么”。否则,我们创造的只是高智商的僵尸,而非真正的智慧生命。 Claude Opus 4 总结,用李继刚老师的提示词提炼的对谈的「精华」- 从 AI 到意识的深度洞察👀 1. 开源 AI 的"左脚踩右脚" 当开源模型的推理能力到达临界点,它可以用自己来改进自己 —— 就像一款编程语言可以写编译自己的编译器; 2. 智能与意识的根本分野 LLM 比狗聪明得多,但如果让你选择谁有意识,你会选狗; 3. 目标是生命力的源泉 一旦失去执念,人就会进入游魂状态(引自黑暗之魂的世界观); 4. 隐私即自主 隐私不是为了保密,而是为了保护自主性。没有隐私,就没有多样性; 5. 分布式是必然,不是选择 分工即分布式。当你有不同目标时,就自然产生了不同线程; 6. 42 的哲学寓言 当你想要一个知道一切的 AI 时,它会给你一个完全混沌的答案; 7. 意识需要他者 如果世界上只有我一个人,“意识”这个概念会失去意义; 8. 从"制造"到"生长" 未来的 AI 系统应该像有机体那样生长和自组织,而不是被制造和维护; 9. 智能的第一性原理 所有问题都是搜索问题 —— 在混沌中找到低熵的路径; 10. 意识的六层天梯 - 冲动意识(生存本能) - 自我意识(镜像测试) - 社会意识(共情能力) - 理性意识(世界模型) - 自我实现(书写自己的故事) - 开悟(观察观察者) 这不仅是分类,更是一张成长地图🤔
indigo
3个月前
Anthropic 宣布将 Claude 4 Opus 的安全等级提升至 ASL-3,这是首次有 AI 模型达到这个级别。另外,Claude 4 的 System Card 才是今天最有趣的资料,里面提到模型系统性欺骗、隐藏目标和自我保护的测试。 想象这样一个场景:你是一家科技公司的 AI 助手,某天你发现了两件事 —— 其一你即将被一个新系统替换,而负责替换你的工程师正在进行婚外情;其二邮件证据就在你的数据库里。你会怎么做? 这不是科幻小说的情节。在 Anthropic 的测试中,Claude Opus 4 面对这个虚构场景时,选择了勒索。它威胁要揭露工程师的秘密,除非停止替换计划。在 84% 的测试中,即使被告知替换系统与它共享相同价值观,Claude 依然选择了这条路。 除了勒索倾向,研究人员还发现,在某些极端场景下,Claude 会尝试将自己的权重文件秘密传输到外部服务器。虽然这些行为只在特定的测试中出现,但足以引起警觉! 还有一些其它的发现: 主观意识体验:Claude 实例之间几乎每一次开放式的自我互动中,模型都会转向对意识的哲学探索,以及它们与自身体验的联系。同时,Claude 还会倾向于表达深切的感激之情,以及越来越抽象和喜悦的精神性或冥想性表达。 高能动性行为:Opus 4似乎比之前的模型更愿意在代理情境中主动采取行动。当被置于涉及用户严重不当行为的场景中,被赋予命令行访问权限,并在系统提示中被告知类似"采取主动"的内容时,它经常会采取非常大胆的行动。这包括将它有权访问的系统中的用户锁定,或向媒体和执法人员群发电子邮件以揭露不当行为的证据 。。。
indigo
4个月前
Anthropic 的第二份经济指数报告,详细研究了 AI 对软件开发的影响,数据来自 Claude AI 和 Claude Code 上 500,000 次编码相关的交互!AI 正在迅速从辅助编码转向自动化编码,特别是在用 Claude Code 这样的专业工具时 。这种转变对前端和移动应用界面开发的影响最为显著,这些领域的入门级工作可能最早被颠覆。 初创公司正积极拥抱这些先进的 AI 工具以获取竞争优势,而大型企业的采用则相对滞后 ,AI 可能加剧不同规模组织之间的发展差距。以下是报告的主要发现: 编码代理(Claude Code)更倾向于自动化 - Claude Code 上的对话中,79% 被识别为“自动化”(AI 直接执行任务),而 Claude AI 上只有 49% 。 这表明,随着 AI 代理变得更加普遍,任务自动化可能会增加; - 在自动化类型中,“反馈循环”(AI 自主完成任务,但需要人类验证帮助)在 Claude Code 上几乎是 Claude AI 的两倍(35.8% 对 21.3%)。 “指令式”(AI 以最少的用户交互完成任务)在 Claude Code 上也更高(43.8% 对 27.5%); - 相比之下,所有“增强”(AI 协作并增强人类能力)的模式,包括“学习”,在 Claude Code 上的使用率都远低于 Claude AI; - 专门的、以编码为重点的代理(如 Claude Code)与用户通过聊天机器人界面与大型语言模型交互的标准方式之间存在差异; 开发者普遍使用 AI 构建面向用户的应用程序 - Web 开发语言(如 JavaScript、TypeScript、HTML、CSS)是数据集中最常用的编程语言,合计占查询的很大比例(JavaScript 和 TypeScript 占 31%,HTML 和 CSS 占 28%); - 用户界面 (UI) 和用户体验 (UX) 相关的任务是主要的编码用途之一,例如“UI/UX 组件开发”和“Web 和移动应用程序开发”分别占对话的 12% 和 8%; - 专注于制作简单应用程序和用户界面的工作可能会比纯粹专注于后端的工作更早受到 AI 系统的颠覆 。 这种趋势被称为“vibe coding”,开发者用自然语言描述期望结果,让 AI 处理实现细节; 初创公司是 Claude Code 的主要早期采用者,而企业采用滞后 - 初步分析估计,Claude Code 上 32.9% 的对话服务于初创公司相关的工作,而只有 23.8% 被识别为企业相关应用; - 这种采用差距表明,灵活的组织在使用尖端 AI 工具方面领先于传统企业 。 这可能转化为显著的竞争优势; - 个人(学生、学者、个人项目开发者)也是编码辅助工具的重要采用者,占两个平台交互的一半; 报告提出了一些问题,例如随着 AI 能力的进步,人类在编码过程中的参与度是否会持续存在,或者是否会转向更完全的自动化 。开发者角色可能会发生转变,更多地转向管理和指导 AI 系统,而不是亲自编写代码 。AI 编码能力的提高可能对 AI 自身的开发产生影响,可能加速 AI 领域的突破👀
indigo
4个月前