#自我演化

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

1天前

由LLM演化而来的AGI能力边界，终将不由参数规模决定，而由它在真实世界中“自我演化”的路径决定。我们的语言根植于生存适应性的需要，所以其语义的丰富性受此约束，最终要回归到语用价值。 LLM用于人类社会活动中也受到类似约束每次激活的人格路径是单一的。语言有超模态的特性，因此LLM的演化多模态可能并不想我先前认为的那么重要，从沉寂半年多的deepseek最近获得关注的在长上下文突破方面的论文Native Sparse Attention: Hardware-Aligned and Natively，也许是下一个突破点。此前Anthorpic的ceo采访中也提到100M上下文窗口不是梦来看，ICL的能力可以做到几乎实时的权重更新影响输出，LLM的agentic行为可以进一步简化现在的各项工程方法。

#LLM #AGI #自我演化 #长上下文 #Agentic行为