#模型边界

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

1天前

LLM的训练分布边界与人类的具身边界，有一个致命的不对称：人类的具身边界是硬约束：你不能"选择"看到紫外线你不能"选择"感知引力波你不能"关闭"疼痛（除非神经损伤） LLM的训练分布边界是软约束：可以通过增加训练数据扩展可以通过ICL临时"越界" 可以通过fine-tuning调整边界这意味着什么？人类的边界产生了稳定的、普遍的语义共识：所有人类（大致）共享"红色""疼痛""温暖"的体验因为所有人类有（大致）相同的身体结构 LLM的边界产生的是可变的、人造的语义配置： GPT-4和Claude对"安全"的理解可能不同（RLHF差异） Llama和Mistral的"知识边界"不同（训练数据差异）

#LLM训练 #具身边界 #语义共识 #人工智能 #模型边界