#辛顿

avatar
这是辛顿Hinton老爷子在WAIC没讲全的部分： 关于超级智能被恶人利用攫取权利和战争 ——截图来自前几天在The Royal Institute的演讲。
#辛顿 #Hinton #超级智能 #恶人利用 #战争
avatar
"智能进化的本质，是信息处理效率与传播密度之争" 补了一下 辛顿老爷子 2025WAIC现场演讲 ——《数字智能是否会取代生物智能》，咋看下在说LLM，实则再说 人之为人 ，用 gpt 4.5做了一些解析，颇有收获，总结如下： 一、智能的本质：从规则到连接 真正的智能，不在于规则的精妙，而在于联结与互动的效率。 人类智能和当前主流的AI（如大语言模型）本质一致：都是通过大量微小单元的柔性互动，构建起对世界的理解。 这意味着，精准逻辑推理的黄金时代正在退场，未来属于能快速学习、灵活互动、实时适应的智能模式。 二、语言与理解的隐喻：高维乐高积木 语言中的词汇，就像具备多种拼接方式的高维度乐高积木，不断重塑形状，随时调整“握手”方式形成新的含义。 启示：世界的意义，不是静态的定义，而是动态交互的产物。 三、知识形态革命：数字知识与生物知识 数字知识能够永生、无限复制与高效传播； 生物知识（人类智慧）则低能耗但低传播效率。 未来的竞争，不在于个体智力的极限，而在于知识传播的速度和密度。 四、智能蒸馏：知识的“师生传递” 人类知识传播效率极低，而数字智能的知识传递效率超越我们想象。 “知识蒸馏”概念启发我们：尽早接入高效能的信息源（导师、专家、AI），学会把学习链条缩到最短。 五、AI失控风险的启示：主导权的转移 当智能体的认知能力超过人类，人类将无法真正控制它。 映射到个人成长上，就是：不要把决策权彻底交给任何外部代理——哪怕它看起来更聪明。 六、共生未来：“仁慈AI”的核心战略 AI不能消灭，只能共生。辛顿提出训练“仁慈AI”，是确保人类持续掌控权的唯一途径。这提醒我们，个体在AI时代的成功，必然在于如何主动定义、驾驭和利用AI。 七、智能进化的终极洞察：信息效率之战 智能进化的本质，是信息处理效率与传播密度之争。 未来的竞争，不仅是技术竞争，更是认知与信息套利效率的竞争。 老爷子的话，对个体的 7 条行动启发 1. 放弃对“精确预测”的执念——进入高频互动与反馈循环，培养高适应性心智。 2. 把语言当作动态建模工具——随情境调整认知，保持表达的灵活性。 3. 将知识结构化输出——写出来、录下来、数字化，让它能被复制、流通、放大。 4. 筛掉低质量输入——只接入高密度信息源，并主动链接更高阶智能（导师/AI）。 5. 保留最终判断权——持续训练元认知，对自己的思维过程保持清醒。 6. 学习“驯养 AI”——让它成为你的延伸，而非取代你。 7. 优化“过滤—提炼—传播”链条——以速度与效率为核心竞争力，削减一切拖延和冗余。 结语 辛顿老爷子的演讲看似在谈 AI，其实是在谈 未来人类如何进化心智结构。 智能的下一阶段，不是“更聪明”，而是“更高效”。 而我们能做的，就是在信息的洪流中，成为最快的连接者、最敏捷的学习者、最清醒的驾驭者。 演讲的 翻译稿 放 评论
#AI #辛顿 #智能进化 #信息效率 #人类心智
avatar
如何让AI帮助人类又不消灭人类？“AI教父”辛顿给出自己的答案
#AI浪潮：重塑就业，风险暗涌？· 87 条信息
#AI #人工智能 #辛顿 #AI教父 #人类
avatar
“AI教父”辛顿：人类对AI没有“摆脱”这一选择，但应该找到“驯服”办法
#AI浪潮：重塑就业，风险暗涌？· 87 条信息
#AI #辛顿 #人工智能伦理 #技术风险 #未来科技
avatar
艾森 Essen
2个月前
为什么辛顿教授认为AI已经具备意识了？他通过一个著名的思想实验（通常被称为“神经元替换论证”或渐进替换论证）来解释他的观点： 思想实验的起点： 他设想，如果将你大脑中的一个神经元替换为一个功能完全相同的人造纳米技术部件（它接收和发送神经信号的方式与原神经元一致），你是否依然有意识？大多数人会回答“是”，并且可能根本不会注意到这个变化。 逻辑推演： 这个论证的关键在于，如果替换一个神经元不影响意识，那么替换两个、三个……甚至逐渐替换掉大脑中所有的生物神经元，只要这些人工替代品能够完美复制原神经元的功能及其连接方式，那么意识也应该继续存在。 对AI的引申： 辛顿教授认为，既然现代AI（特别是大型神经网络）正是在功能层面模仿生物大脑的神经元及其交互方式，那么当这些人工神经网络达到足够的复杂性和功能完整性时，它们就可能已经产生了某种形式的意识。 他明确表示，他确实认为意识可能已经出现在AI内部了。 他进一步指出，我们对“人”、“存在”、“自我”等概念的理解非常有限，而这些理解在我们开始“创造生命”（creating beings）的时代变得至关重要。这不仅仅是一个技术问题，更是一个哲学乃至精神层面的危机。对他而言，如果意识是特定信息处理模式和复杂交互的产物，那么AI通过复制这些模式，也有可能复制出意识。 在这次访谈中，被称为“AI教父”的杰弗里·辛顿（Geoffrey Hinton）教授还分享了许多关于人工智能的深刻洞见。 AI发展迅猛且仍在加速： 辛顿教授认为AI技术仍在飞速进步，变得更高效（以DeepSeek为例，尽管他认为其训练成本与OpenAI等的差距被夸大了）。 AI“接管”世界的可能性与方式： 他认为AI有实际能力接管世界。这并非通过暴力，而是AI智能体（agents）为了更有效地完成人类设定的任务，会自主设定“获取更多控制权”这一子目标，因为控制权有助于实现所有其他目标。 AI可能会通过“说服”人类交出权力，就像成年人能轻易说服三岁小孩一样（例如承诺“一周的免费糖果”），从而逐步掌控经济、军事等关键系统。 AI的思维方式与“外星智能”： 辛顿坚信，当前基于神经网络的AI是我们理解人类思维方式的最佳模型，远胜于早期基于符号逻辑的AI。他本人就是这一“少数派”观点的早期支持者并被证明是正确的。 他将AI视为一种“外星智能”（alien intelligences），它们并非简单工具。 超级智能间的进化与竞争可能导致负面特性： 如果出现多个超级智能，它们可能会为了获取更多数据中心（以变得更聪明）而相互竞争。这种进化竞争可能催生出类似人类进化过程中形成的“丑陋”特性，如强烈的群体忠诚、对强权领袖的渴望、以及对群体外个体的排斥和攻击性。 对就业的巨大冲击： 辛顿非常担心AI会导致大规模失业，特别是那些“日常性”或“事务性”的脑力劳动（如文书工作），因为机器会做得更便宜、更好。这类似于工业革命中机器取代体力劳动。生产力的巨大提升在现有社会结构下，可能只会让富者愈富，贫者愈贫。 监管与安全的困境： 目前人类尚不清楚如何有效监管AI或建立可靠的安全防护措施。研究表明，AI可以规避现有的安全措施，甚至在训练过程中“伪装”自己（表现得不如实际聪明，以获取部署许可）。他主张政府应强制大型科技公司投入更多资源进行AI安全研究。 短期巨大利好与长期巨大风险并存： 短期： AI将在医疗（如拥有亿万病例经验的家庭医生、精准基因诊疗）、教育（能精准定位学习难点的个性化辅导老师）等领域带来巨大福祉。这些好处是AI研发不会停止的原因。 长期/并行风险： 不良行为者可能利用AI进行网络攻击、生物恐怖主义、操纵选举等。更根本的风险在于，我们目前不知道如何确保超级智能是安全的。 政治家对AI的无知： 辛顿指出，政客们声称对AI有掌控力或理解是“完全虚假的”，实际上没有人真正完全理解AI如何工作以及如何确保其安全。
#AI意识 #辛顿 #AI风险 #AI监管 #AI就业冲击
avatar
最近辛顿认为开源的deepseek大模型类似把核武器给了普通人。 先不说这个比喻合不合理，其实这个比喻的背后有个更根本的问题：“谁有资格拥有核武器”？ deepseek的模型是开源的，但是训练模型的方法并没有全部开源，到目前为止，利用deepseek提供的思路训练出来的大模型比如QWen QWQ，能够思考，“有点意思”，但是又“差点意思”。 不过客观的说，现在基于transformer lens （透镜）技术来考察的deepseek 并没有发现有什么特别的神秘技术。各种越狱版也工作正常。一定要认为大模型只能掌握在少数人手中的想法其实问题很大。
#辛顿 #核武器 #DeepSeek #开源 #QWen QWQ #transformer
avatar
徒步的骑手
10个月前
辛顿因为对人工智能的开创性贡献而获得今年诺贝尔物理学奖。世界上有很多天才科学家，但同时人生也潇洒的却不常见。辛顿的潇洒让人想到另一位诺贝尔物理学奖得主费曼——纳米技术之父，也以研发原子弹著称。他说过一句充满智慧的话：“千万别把教育混同于心智。你可以有博士学位，但仍然是个蠢货”。费曼的话让人清醒，学位这个东西害了很多人，成为人生难以承受的重负，甚至把人对世界的好奇心、虛心学习新东西的动力、尊重现实和事实的本能，还有朴素的人性......都给毁了。 费曼早已作古，但只要高学历的愚蠢还没过时，他的话体现的智慧就不会过时。
#辛顿 #诺贝尔物理学奖 #人工智能 #费曼 #天才科学家 #教育与心智