对话AI科学家刘威:“Ilya预训练终结论”对中国大模型公司影响不大

6个月前

出品|虎嗅科技组作者|苏子华编辑|苗正卿题图|AI生成过去一段时间,“预训练终结”成为了 AI 领域最热烈的讨论之一。OpenAI的GPT系列模型此前大踏步的前进,预训练是核心推动力。而前 OpenAI 首席科学家 Ilya Sutskever、预训练和scaling law(规模定律)最忠实的倡导者,却宣称预训练要终结了、scaling law要失效。由此...