15小时前

LLM的训练分布边界与人类的具身边界,有一个致命的不对称: 人类的具身边界是硬约束: 你不能"选择"看到紫外线 你不能"选择"感知引力波 你不能"关闭"疼痛(除非神经损伤) LLM的训练分布边界是软约束: 可以通过增加训练数据扩展 可以通过ICL临时"越界" 可以通过fine-tuning调整边界 这意味着什么? 人类的边界产生了稳定的、普遍的语义共识: 所有人类(大致)共享"红色""