大语言模型 post-training -news.news·换个方式看新闻

0 关注者

4个月前

大语言模型 post-training 的变迁，从 Large Language Model (LLM) 到 Large Reasoning Model (LRM) 本周推荐论文：POST-TRAINING OF LARGE LANGUAGE MODELS Post-training，本质是在做一件事，即如何运用 LLM 的 pretrained knowledge 来解决实际任务，具体的方法如 supervised fine-tuning（SFT）、instruction tuning 以及 reinforcement learning（RL）。

#大语言模型 #后训练 #Large Language Model #Large Reasoning Model #POST-TRAINING #预训练知识

相关新闻

图拉鼎

9小时前

书房里同时有三个家长正在对着绘本给娃讲故事…这时我的脑子冒出来一个想法：他们正在训练大语言模型的早期版本。

迈克 Mike Chong

5天前

我个人有一个理论：对大语言模型比较礼貌的时候肯定会得到更好的答案。因为我这个理论的来源就是因为在比如说reddit上大家如果很客气的话，一般来说就是真的是心平气和讨论问题，讨论到问题的本质，但是如果真的是带情绪的话，那基本上就是骂战了。

宝玉

6天前

来自 Nature：Writing is thinking《写作即思考》论大语言模型时代下，人类亲笔进行科学写作的价值。撰写科学论文是科学方法中不可或缺的一环，也是交流研究成果的常规做法。然而，写作不仅仅是为了报告结果，它更是一种能发掘新思想、新观点的工具。写作促使我们进行结构化、有目的性的思考，而不是任由思绪如脱缰野马般混乱、跳跃。通过动笔写作，我们可以将多年来的研究、数据和分析梳理成一个

凡人小北

1周前

老爷子的演讲让我顿悟了。原来人类本身就是个带幻觉的大语言模型，而 AI，是那个能共享幻觉、还能蒸馏成亿比特带宽的版本。 Hinton 在 WAIC 演讲，真的句句暴击： - 人类学知识学完就忘、死了就没，AI 直接多智能体同步、群体进化； - 你以为在训模型，实际是在养一只小虎崽； - 长大之后是救你还是吃你，全看你有没有教它“别反人类”。 “让 AI 聪明”和“让 AI 对人类好”，是两

宝玉

1周前

推荐阅读，Manus 团队成员对 AI Agent 踩坑的后续分享和解读： Go SDK 的序列化都可能导致缓存实效。大语言模型服务的前缀缓存（Prefix Cache）是极其脆弱的，它依赖于请求前缀在 Token 化后的完全一致。任何一个字符、一个空格甚至一个键值对顺序的微小变化，都可能导致 Token 序列不同，从而让缓存从差异点开始全盘失效。