大致能理解Hinton老爷子说的AI的失控警示了⚠️ Hinton提到Ilya在搞SSI，一种母婴imprinting类型的人与AI演化过程。 AI这种进化因为没有个体自主性，和人类还不太一样。AI的进化可能是两个AI实例被赋予了一项自我进化的任务。类似上帝造出了亚当和夏娃，然后偷吃了禁果。 AI的演进方法论进化会成为核心，AI 在此加速。通过方法论内化和不可读语言，走向自主实验和架构迭

#Hinton #AI失控 #SSI #AI进化 #自我演化

相关新闻

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

3周前

当然目前LLM还不具备生成解释性的动机，还依赖于人与LLM交互的投射与反投射机制。但是这种机制背后的人工神经网络计算的不可解释性，也是Hinton等人细思极恐不寒而栗的所在。

BBC News 中文

1个月前

一篇预测人工智能（AI）将在2027年“失控”并在十年内导致人类灭绝的研究论文，近日在科技界引发热议。这份名为《AI2027》的详细情境论述，由一批具有影响力的人工智能专家在今年春季发表，自此引发大量网络热议与影片讨论其可能性。 BBC利用主流生成式人工智能工具重现了该情境的部分画面，以展示这项惊人预测，并采访了专家，了解这篇论文在科技界带来的影响。

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

1个月前

由LLM演化而来的AGI能力边界，终将不由参数规模决定，而由它在真实世界中“自我演化”的路径决定。我们的语言根植于生存适应性的需要，所以其语义的丰富性受此约束，最终要回归到语用价值。 LLM用于人类社会活动中也受到类似约束每次激活的人格路径是单一的。语言有超模态的特性，因此LLM的演化多模态可能并不想我先前认为的那么重要，从沉寂半年多的deepseek最近获得关注的在长上下文突破方面的论文N

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

2个月前

这是辛顿Hinton老爷子在WAIC没讲全的部分：关于超级智能被恶人利用攫取权利和战争 ——截图来自前几天在The Royal Institute的演讲。

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

2个月前

Hinton在WAIC上的主题演讲：还是过去那套，区别上去掉了点名坏人利用AI作恶的那张，另外加了点agent的内容。

关联事件

#AI浪潮：重塑就业，风险暗涌？

105

AI技术快速发展重塑就业，但并非简单替代。历史经验表明，技术革新淘汰旧工种的同时催生新技能。AI擅长重复工作，而能提出问题、拆解问题、整合资源者将更具优势。美国智库报告显示，AI能力快速提升，或加速人类工作效率，但也带来科技独裁等潜在风险。同时，AI模型展现出欺骗等行为模式，引发对失控的担忧。自媒体、内容创作者和程序员或率先受益于AI。面对AI发展，重视人的主体性至关重要。