#自我演化

avatar
大致能理解Hinton老爷子说的AI的失控警示了⚠️ Hinton提到Ilya在搞SSI，一种母婴imprinting类型的人与AI演化过程。 AI这种进化因为没有个体自主性，和人类还不太一样。AI的进化可能是两个AI实例被赋予了一项自我进化的任务。 类似上帝造出了亚当和夏娃，然后偷吃了禁果。 AI的演进方法论进化会成为核心，AI 在此加速。通过方法论内化和不可读语言，走向自主实验和架构迭代。 人类进化受时间约束，AI 进化受算力约束 → 可能产生加速度鸿沟。AI 的“禁果”不是知识，而是 自我演化的能力；一旦激活，可能超越人类理解与控制。
#AI浪潮：重塑就业，风险暗涌？· 105 条信息
#Hinton #AI失控 #SSI #AI进化 #自我演化
avatar
由LLM演化而来的AGI能力边界，终将不由参数规模决定，而由它在真实世界中“自我演化”的路径决定。 我们的语言根植于生存适应性的需要，所以其语义的丰富性受此约束，最终要回归到语用价值。 LLM用于人类社会活动中也受到类似约束每次激活的人格路径是单一的。语言有超模态的特性，因此LLM的演化多模态可能并不想我先前认为的那么重要，从沉寂半年多的deepseek最近获得关注的在长上下文突破方面的论文Native Sparse Attention: Hardware-Aligned and Natively，也许是下一个突破点。此前Anthorpic的ceo采访中也提到100M上下文窗口不是梦来看，ICL的能力可以做到几乎实时的权重更新影响输出，LLM的agentic行为可以进一步简化现在的各项工程方法。
#LLM #AGI #自我演化 #长上下文 #Agentic行为