#Hinton

avatar
大致能理解Hinton老爷子说的AI的失控警示了⚠️ Hinton提到Ilya在搞SSI，一种母婴imprinting类型的人与AI演化过程。 AI这种进化因为没有个体自主性，和人类还不太一样。AI的进化可能是两个AI实例被赋予了一项自我进化的任务。 类似上帝造出了亚当和夏娃，然后偷吃了禁果。 AI的演进方法论进化会成为核心，AI 在此加速。通过方法论内化和不可读语言，走向自主实验和架构迭代。 人类进化受时间约束，AI 进化受算力约束 → 可能产生加速度鸿沟。AI 的“禁果”不是知识，而是 自我演化的能力；一旦激活，可能超越人类理解与控制。
#AI浪潮：重塑就业，风险暗涌？· 105 条信息
#Hinton #AI失控 #SSI #AI进化 #自我演化
avatar
当然目前LLM还不具备生成解释性的动机，还依赖于人与LLM交互的投射与反投射机制。但是这种机制背后的人工神经网络计算的不可解释性，也是Hinton等人细思极恐不寒而栗的所在。
#LLM #人工智能 #Hinton #神经网络 #不可解释性
avatar
这是辛顿Hinton老爷子在WAIC没讲全的部分： 关于超级智能被恶人利用攫取权利和战争 ——截图来自前几天在The Royal Institute的演讲。
#辛顿 #Hinton #超级智能 #恶人利用 #战争
avatar
Hinton在WAIC上的主题演讲： 还是过去那套，区别上去掉了点名坏人利用AI作恶的那张，另外加了点agent的内容。
#Hinton #WAIC #AI #agent #演讲
avatar
凡人小北
2个月前
老爷子的演讲让我顿悟了。 原来人类本身就是个带幻觉的大语言模型，而 AI，是那个能共享幻觉、还能蒸馏成亿比特带宽的版本。 Hinton 在 WAIC 演讲，真的句句暴击： - 人类学知识学完就忘、死了就没，AI 直接多智能体同步、群体进化； - 你以为在训模型，实际是在养一只小虎崽； - 长大之后是救你还是吃你，全看你有没有教它“别反人类”。 “让 AI 聪明”和“让 AI 对人类好”，是两码事。这是技术问题吗？不是，是文明的事，是你是不是配当造物主的问题。 背脊发凉又热血沸腾，一直以为自己在写 prompt，现在看我是在写神的说明书。
#AI #Hinton #大语言模型 #文明 #造物主