卫斯理
2个月前
宝玉
2个月前
一方面我不喜欢 Andrej Karpathy 总是发明新的概念,一方面又不得不承认他确实很多想法是很有价值的。 比如这里对 Software 1.0/2.0 的定义就挺好的: 1). 软件1.0时代,容易自动化的是你能明确告诉计算机怎么做的事情。 2). 软件2.0时代,容易自动化的是你能自动验证结果好坏的事情。 那这里的自动化都什么意思呢? 1. 软件1.0:靠指定规则(Specify Rule)自动化 过去的几十年,我们用的所有传统软件(比如Excel、Word、会计系统),都是“软件1.0”。 它的核心逻辑是“指定”(Specify)。 你必须像个事无巨细的监工,把每一个规则都用代码写得清清楚楚。比如做个会计软件,你必须告诉它: “如果A栏的数字大于B栏,那么C栏就显示红色。”“月末,把所有D栏的数字加起来,放到Z栏。” 软件1.0擅长什么? 自动化那些规则固定、逻辑清晰的任务。 软件1.0解决的是什么问题呢? 是人类的“机械性重复劳动”。比如打字员、记账员、算账员。只要一个任务的全部流程能被清晰描述出来,软件1.0就能接管它。 2. 软件2.0:靠指定目标(Specify Objective)自动化 现在,AI 来了,升级到了软件2.0。 它的逻辑完全变了。我们不再是指定规则,而是设定目标。 我们不再像监工一样告诉AI每一步怎么做,而是像个教练,只告诉它验收的标准是什么。 比如训练AI下棋。我们不告诉它“当对方出这一招,你就必须走那一步”。我们只给它一个目标:“想办法赢棋”。 然后,AI 就开始自己搜索那个能赢棋的步骤。它通过海量的自我对弈(也就是梯度下降)来寻找最佳策略。 这就是 AK 的核心观点:软件1.0是我们手动写程序,软件2.0是AI自动搜索生成程序。 3. 软件 1.0 时代看“可指定性”(Specifiability),2.0 时代看“可验证性”(Verifiability)。 如果说软件 1.0 自动化任务的标准是我们能不能指定清晰的规则,比如说你要写个自动抓取的爬虫,只要指定清晰饿抓取规则和解析规则就可以了。 那么软件 2.0 自动化任务的标准则是结果是不是能自动被验证。 “可验证性”就是AI能不能在一个任务上进行高效的“刻意练习”。 AK 给出了“可验证”的三个关键条件: 1). 可重置 (Resettable) AI必须能够无限次地重新开始尝试。比如下棋,这局输了,没关系,棋盘一清,马上开下一局。 2). 高效率 (Efficient) AI的练习速度必须远超人类。它可以在一小时内“看”完人类一辈子都看不完的视频,一天内下几百万盘棋。 3). 可奖励 (Rewardable) 这是最关键的一点。必须有一个自动化的、即时的、没有争议的奖惩机制。 自动化至关重要。如果AI每次做完一件事,都需要一个人类专家来看半天,然后给个模棱两可的评价(比如“嗯,这个创意还行”),那AI就没法高效学习。 像在编程、数学领域就很容易符合上面的三个条件,但是像写作这种非标准化的就很难验证。 但对于软件来说,稍微复杂一点的软件系统,其实很难达到可验证的标准。 比如说我在实现 UI 时,会尝试把 UI 设计稿扔给 AI,然后给 AI 一个截图工具,让它反复截图对比设计稿,然后找出差异优化,但是以目前的 AI 能力,还不足以修复这些差异,所以无论你运行多久,也不会真的得到一个理想的结果。 这可能就是我不太喜欢 AK 发明的这些新概念的原因,总是提出一个个概念,但是并没有解决多少问题。
Morris
2个月前
2025年11月14日,纽约林肯中心·大都会歌剧院,第32届Baron投资大会。埃隆·马斯克与全球顶级投资人罗恩·巴伦进行了一场深入的虚拟炉边对话。 一、关于空间与机器人规模:人类根本不缺地方 巴伦:未来几十亿台Optimus机器人到底放哪儿?路边还有位置吗?你们是不是要再建设施?还是由BoringCompany挖地下隧道让机器人走?或者让机器人飞? 马斯克:空间绝对不是问题,如果把80亿人像方块一样堆起来,全人类可以塞进纽约中心商务区一栋楼的一层。人类的体积小得不可思议。他回忆自己八年级时就喜欢做这类实验:把人体比作一滴水,把地球比作蓝色的月亮,结果发现地球几乎都是空的。他的总结很简单:别担心,空间绝对够用。最终可能会有几十亿台家庭版类人机器人,工业上可能会达到每1名工人对应3~4台机器人,全球总量有望达到300~400亿台,Optimus会成为每个人的智能伙伴:像R2D2/C-3PO,但更聪明能教孩子、陪伴、购物、聊天,必要时还可以保护你。 二、机器人会夺走工作吗?马斯克:不会,人类只会做得更人类 巴伦问:Optimus能干这么多,人类以后干什么?除了吃喝玩乐还剩什么? 马斯克:电脑早就碾压人类棋手,你手机不联网就能轻松打败卡尔森。但国际象棋现在比历史上任何时候都流行。某个东西变得更强,并不意味着人类就不想参与。 三、成本、产量与商业模式:Optimus手最难 巴伦:现在产业链:日本工业机器人售价10万美元,每台还要付15万美元的维护,Optimus却预计能做到2万美元,要把价格真正打下来必须做到年产1000万台。这种机器人到底是个人买还是企业买?投资者会不会有某种收益分成? 马斯克:当产量达到年产100万台的稳态时,每台的材料+人工成本大概2~3万美元。比造车简单得多。难点主要在手:50个制动器,100个电机,齿轮箱,各类传感器,因为要达到:和人类一样的灵敏度,同等级的精度,同样自由度,只有这样才能完成真正复杂的任务:拧螺丝,穿针,弹吉他,做外科手术,未来每个人都能拥有超人类精度的机器人医生,顶尖外科医生不再稀缺,而是可以在工厂里批量生产。 四、Neuralink+Optimus义肢:失去双腿的人将跑得比任何人类还快 巴伦,两年前,他给马斯克发了一篇文章,说一位33岁的投资经理因食肉菌切除双腿。他问马斯克是否能让他重新站起来。马斯克当时答应:3~4年后用Optimus义腿+脑机接口让他重新行走。巴伦如今询问进展。 马斯克说:Neuralink已经为十多位患者植入芯片,包括像霍金那样完全闭锁的人,现在能像正常人一样顺畅交流。下一步:把患者运动皮层的信号通过Neuralink传给Optimus义腿,就能让失去双腿的人重新站起来,并且奔跑速度比任何人类都快。他强调价格不会是科幻片里的600万美元:可能只需几万美元。 五、关于X:买下后立刻暴跌70%,但他依然坚持 巴伦回忆:当年马斯克收购Twitter(现X)花了440亿美元,他当时打电话说要投1亿,基金出6000万,他个人出4000万。 马斯克还惊讶地问他:Really?结果:钱刚打进去股价就跌了70%。所有人都骂,但巴伦咬牙坚持,最终翻了7倍。 巴伦说:你碰什么都能变成金子。 马斯克回应:这才是真正的朋友。别人都跑的时候你留下来。 六、为什么买Twitter:不是数据,也不是商业计算,而是文明问题 巴伦问:你买X是因为看中了6亿人的实时对话数据?还是你早就算好了? 马斯克很直接:不是为了数据,也不是为了钱。我买Twitter是因为它当时对文明产生了负面影响。被旧金山/布鲁克林式的极端左翼控制,不允许辩论。连现任总统都能被封号,这太荒谬了。他认为:言论自由是民主的基石,没有言论自由就没有知情投票,他只是想把平台拉回中间,恢复公共广场的功能。 七、从OpenAI到xAI:为什么再干一次? 巴伦提到:马斯克是OpenAI联合创始人,提供了几乎所有早期经费,却因为理念不合,一股没拿就走了。如今OpenAI市值数千亿,这说明他当初并不是为了钱。 马斯克回忆:当年和LarryPage吵翻,Page在他生日派对上当众说马斯克站在人类一边是落后。马斯克意识到Page的AI价值观太危险,所以他最初创立OpenAI,就是想打造一个开源、非盈利、对标Google的人类友好型组织。但后来OpenAI偏离了路线,他选择离开。于是他创建xAI,并认为胜出的关键有三点:级的人才密度(行业最高),2.最快的算力部署速度,JohnsonWang的评价:世界上只有马斯克能在几个月内建成10万张H100的超算中心。3.X的实时数据,形成独一无二的训练优势。 八、xAI的未来:AGI、知识备份工程、太空算力 马斯克透露:预计2026Q1发布6万亿参数多模态模型,他人生第一次感到AGI有10%的真实概率正在出现,这个模型会:极度智能,极度快速,真正理解实时视频。他还在推进一个覆盖文明的知识工程:CycleDiaGalactic(未来要改名),目标是把人类全部知识:完全开源,做成可复制的仓库,分发到,地球、月球、火星、轨道、甚至刻在石头上,避免出现亚历山大图书馆被烧毁的那种文明级灾难。他还计划:每年发射100吉瓦的太阳能AI卫星集群,相当于美国全国年均用电的1/4,并可能成为最便宜的大规模算力方案。 九、特斯拉:别人学不会的工厂秘密 巴伦问:为什么连福特CEO都说别人抄得好,但你们是原版?马斯克解释:大部分企业是渐进主义,每年提升5%~10%,不敢推翻旧流程、承担风险。而他用的是第一性原理:工厂体积效率是多少?零部件的移动距离是否最短?一个原子或一个比特的路径能否继续缩短?如果不最优,就推倒重来。他还谈到:自家的AI5推理芯片,性能/功耗比预计是Nvidia的2~3倍,成本只有十分之一,如果台积电和三星一个新节点要5年,他等不了。必要时,特斯拉可能会自己建超级晶圆厂,因为未来全球芯片都不够用。 十、FSD:比人类驾驶安全4~8倍 马斯克说:FSD在10亿英里的数据量级下无可辩驳,开FSD比人类驾驶安全4~8倍,特斯拉现在强制新用户至少体验一次(因为太安全了反而让人不敢用),AI5上车后,安全性还会再提升10倍,巴伦说自己还没试过,马斯克回应:你一定要试,体验一次你肯定会买。 十一、马斯克的终极目标:不是钱,而是人类的未来 巴伦问:你现在身家几万亿,这些钱最后打算干什么?希望后人怎么记住你? 马斯克说:没度假屋,在德州BocaChica住8万美元的小盒子房子,做这些不是为了更大的游艇,他真正追求的是:确保人类意识长期延续,把人类变成多行星物种,探索宇宙真相。有没有外星文明?标准物理对不对?现实本质是什么?我只是被好奇心驱动的人。