arXiv预印本2509.04259，探讨了在线强化学习（RL）在fine-tuning基础模型时为什么比监督微调（SFT）遗忘更少的问题 RL’s Razor：在所有解决新任务的策略中，RL偏好KL散度（Kullback-Leibler divergence）相对于原始模型最小的解决方案

#在线强化学习 #RL #fine-tuning #KL散度 #模型遗忘

相关新闻

宝玉

3周前

容易遇到“捞女”跟文科理科没关系吧，还是谈恋爱晚了谈恋爱少了，早点谈多谈，至少多接触异性就不容易被美色迷糊，本质还是 RL（强化学习）+ 运气（概率）

马东锡 NLP 🇸🇪

5个月前

「LLM x RL」DeepSeek 最新论文：Inference-Time Scaling for Generalist Reward Modeling 在 RL 中，Reward Modeling（RM）是一个非常重要的部分。RM 主要用于对 LLM 的生成结果进行打分，从而调整 LLM 的 policy，使其更符合 RM 设定的要求，比如更强的 reasoning 能力。针对特定任务（

马东锡 NLP 🇸🇪

5个月前

「LLM， Agent, RL的关系」在LLM的语境下，Agent是能理解问题，自主进行推理（Reasoning），并采取行动的系统。你可以把它想象成一个非常聪明的助手，当你提出复杂问题时，它不会立即给出答案，而是会在内心进行推理和规划（Planning），再给出最终决定。如果我们回顾prompt engineering中提高LLM Reasoning能力的方法，如Self-Consis

德國之音

6个月前

瑞典政治家Göran Lindblad 就VOA \RFA\RFE\RL 等媒體被暫停資助發表評論。 The name Bloody Saturday is unfortunatly very much to the point describing the Trump administrations grave misstake to silence good journalism and es

Panda

8个月前

【从DeepSeek到AI行业的四个思考】一、论文推荐：大模型领域的「教科书式」样本今天重读DeepSeek系列论文，印象深刻的其实是24年2月的 DeepSeek-Math ，如果说关于大模型领域你没有太多时间看论文，那单看这篇就够了，蕴含了他们对数据工程、RL的一切思考和实践，而其他论文都像是按部就班的后来之作，solid的工作是今天流量爆炸的基础二、GPU ownership ≠