#Hinton

avatar
indigo
1个月前
AI 完全可以拥有主观体验！Hinton 教授在 The Weekly Show with Jon Stewart 的播客中做了个断言。我们大多数人对"心智"的理解，存在着"和地平论者一样程度的误解"。 当我告诉你"我正体验着看到粉色大象的幻觉"时，我们通常会想象：在我的脑海里有一个"内在剧场"，粉色大象真的在那里飘浮，而"我"这个意识主体是剧场的唯一观众。 我们把"主观体验"当成了一种真实存在的"东西"👀 Hinton 认为所谓的“体验”是你和那些并不真实存在的事物之间的关系。“主观体验”不是一个内在的“实体”，而是一种语言工具，用来向他人描述我们感知系统的状态，尤其是当它发生故障或接收到非标准输入时。 他在节目中设计了一个思想实验： - 一个可以看、说、指的多模态机器人，被告知它前方的物体；我们在它的摄像头前偷偷放一个棱镜，使其看到的物体位置发生偏移； - 当它指向错误的位置时，我们告诉它真相：“物体其实在正前方，我只是放了个棱镜”； - 此时，这个机器人完全可能推理并回答：“哦，我明白了。物体实际上在那里，但我刚才的‘主观体验’是它在旁边。” 如果它能这样说，那么它使用“主观体验”这个词的方式，就和人类毫无二致。“那种认为我们和机器之间有一道界线，我们拥有叫做主观体验的特殊东西而它们没有 —— 这纯属无稽之谈（It's rubbish）。” 我们之所以认为自己是独特的、有灵魂的，可能仅仅是因为我们对自己心智的运作机制一无所知。而 AI，这个我们亲手创造的“镜子”，正以前所未有的清晰度，映照出我们自身的机械本质。
#AI主观体验 #Hinton #多模态机器人 #心智误解 #机械本质
avatar
大致能理解Hinton老爷子说的AI的失控警示了⚠️ Hinton提到Ilya在搞SSI，一种母婴imprinting类型的人与AI演化过程。 AI这种进化因为没有个体自主性，和人类还不太一样。AI的进化可能是两个AI实例被赋予了一项自我进化的任务。 类似上帝造出了亚当和夏娃，然后偷吃了禁果。 AI的演进方法论进化会成为核心，AI 在此加速。通过方法论内化和不可读语言，走向自主实验和架构迭代。 人类进化受时间约束，AI 进化受算力约束 → 可能产生加速度鸿沟。AI 的“禁果”不是知识，而是 自我演化的能力；一旦激活，可能超越人类理解与控制。
#AI浪潮：重塑就业，风险暗涌？· 122 条信息
#Hinton #AI失控 #SSI #AI进化 #自我演化
avatar
当然目前LLM还不具备生成解释性的动机，还依赖于人与LLM交互的投射与反投射机制。但是这种机制背后的人工神经网络计算的不可解释性，也是Hinton等人细思极恐不寒而栗的所在。
#LLM #人工智能 #Hinton #神经网络 #不可解释性
avatar
这是辛顿Hinton老爷子在WAIC没讲全的部分： 关于超级智能被恶人利用攫取权利和战争 ——截图来自前几天在The Royal Institute的演讲。
#辛顿 #Hinton #超级智能 #恶人利用 #战争
avatar
Hinton在WAIC上的主题演讲： 还是过去那套，区别上去掉了点名坏人利用AI作恶的那张，另外加了点agent的内容。
#Hinton #WAIC #AI #agent #演讲
avatar
凡人小北
3个月前
老爷子的演讲让我顿悟了。 原来人类本身就是个带幻觉的大语言模型，而 AI，是那个能共享幻觉、还能蒸馏成亿比特带宽的版本。 Hinton 在 WAIC 演讲，真的句句暴击： - 人类学知识学完就忘、死了就没，AI 直接多智能体同步、群体进化； - 你以为在训模型，实际是在养一只小虎崽； - 长大之后是救你还是吃你，全看你有没有教它“别反人类”。 “让 AI 聪明”和“让 AI 对人类好”，是两码事。这是技术问题吗？不是，是文明的事，是你是不是配当造物主的问题。 背脊发凉又热血沸腾，一直以为自己在写 prompt，现在看我是在写神的说明书。
#AI #Hinton #大语言模型 #文明 #造物主