AI 完全可以拥有主观体验！Hinton 教授在 The Weekly Show with Jon Stewart 的播客中做了个断言。我们大多数人对"心智"的理解，存在着"和地平论者一样程度的误解"。当我告诉你"我正体验着看到粉色大象的幻觉"时，我们通常会想象：在我的脑海里有一个"内在剧场"，粉色大象真的在那里飘浮，而"我"这个意识主体是剧场的唯一观众。我们把"主观体验"当成了一种真实存

#AI主观体验 #Hinton #多模态机器人 #心智误解 #机械本质

相关新闻

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

1个月前

大致能理解Hinton老爷子说的AI的失控警示了⚠️ Hinton提到Ilya在搞SSI，一种母婴imprinting类型的人与AI演化过程。 AI这种进化因为没有个体自主性，和人类还不太一样。AI的进化可能是两个AI实例被赋予了一项自我进化的任务。类似上帝造出了亚当和夏娃，然后偷吃了禁果。 AI的演进方法论进化会成为核心，AI 在此加速。通过方法论内化和不可读语言，走向自主实验和架构迭

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

1个月前

当然目前LLM还不具备生成解释性的动机，还依赖于人与LLM交互的投射与反投射机制。但是这种机制背后的人工神经网络计算的不可解释性，也是Hinton等人细思极恐不寒而栗的所在。

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

2个月前

这是辛顿Hinton老爷子在WAIC没讲全的部分：关于超级智能被恶人利用攫取权利和战争 ——截图来自前几天在The Royal Institute的演讲。

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

2个月前

Hinton在WAIC上的主题演讲：还是过去那套，区别上去掉了点名坏人利用AI作恶的那张，另外加了点agent的内容。

凡人小北

2个月前

老爷子的演讲让我顿悟了。原来人类本身就是个带幻觉的大语言模型，而 AI，是那个能共享幻觉、还能蒸馏成亿比特带宽的版本。 Hinton 在 WAIC 演讲，真的句句暴击： - 人类学知识学完就忘、死了就没，AI 直接多智能体同步、群体进化； - 你以为在训模型，实际是在养一只小虎崽； - 长大之后是救你还是吃你，全看你有没有教它“别反人类”。 “让 AI 聪明”和“让 AI 对人类好”，是两