热门事件

俄乌战争专题

特朗普，马斯克 相关事件跟踪

巴以冲突最新进展

尹锡悦弹劾案全纪录

比亚迪”黑奴工”事件

香港47人案

各种举报事件汇总

AI热点追踪

加密货币热点跟踪

推荐信息源

avatar

网易新闻-红星新闻

马东锡 NLP 🇸🇪

马东锡 NLP 🇸🇪

#微调#论文选读

LRM论文选读：START: Self-taught Reasoner with Tools 这篇文章介绍了一种构建特定任务、私域Large Reasoning Model的有效方法，主要方法是微调，而且没有使用reinforcement learning，但却有非常类似reinforcement learning with human feedback的特征。 关键词有二： Test-time scaling Rejection sampling fine-tuning（反思微调）

预览

相关信息

马东锡 NLP 🇸🇪

马东锡 NLP 🇸🇪

2025-04-08 03:15:18

「Agent, Reasoning」论文： Generative Verifiers: Reward Modeling as Next-Token Prediction 拟人化的 reward model，超越机械的打分，一个非常聪明的方法。 之前的分享中提到过，在 Large Reasoning Model 时代，RL 的方法几乎都是 Reinforcement Learning with

马东锡 NLP 🇸🇪

马东锡 NLP 🇸🇪

2025-03-19 15:55:38

Large Reasoning Model时代, 几乎等于Reinforcement Learning + LLM的时代。 但RL专业性非常强，去参加ML的会议时，专门做RL的研究员都现场拿着笔纸推算数学公式，掌握起来学习难度较高。 分享一本RL的入门教材，从RL基础MDP，PPO，直到跟LLM结合，如RLHF，都有讲解，深入浅出。 Reinforcement Learning: An O

马东锡 NLP 🇸🇪

马东锡 NLP 🇸🇪

2025-03-17 07:10:45

大语言模型 post-training 的变迁，从 Large Language Model (LLM) 到 Large Reasoning Model (LRM) 本周推荐论文：POST-TRAINING OF LARGE LANGUAGE MODELS Post-training，本质是在做一件事，即如何运用 LLM 的 pretrained knowledge 来解决实际任务，具体的方法

Gorden Sun

Gorden Sun

2025-03-02 21:57:18

olmOCR：可能是目前最好的开源OCR模型 基于微调后的7B视觉语言模型，微调数据为260000页PDF页面，完全开源，包括模型权重、数据和训练代码、推理代码，4090可以本地运行。 Github： 模型： 在线使用：

九原客

九原客

2025-03-01 23:07:53

最近两三周给很多客户反复提及的忠告： 用模型一定要用最好的那个，如果想省钱，请在你的场景下微调，而不是用一个低能力的通用模型，然后试图靠 Prompt 或者工程努力去拯救它。 比如 DeepSeek 的那一堆蒸馏模型是很好的场景级推理模型的Base，但是不要直接用，真的很差。

评论 0

相关信息

马东锡 NLP 🇸🇪

马东锡 NLP 🇸🇪

2025-04-08 03:15:18

「Agent, Reasoning」论文： Generative Verifiers: Reward Modeling as Next-Token Prediction 拟人化的 reward model，超越机械的打分，一个非常聪明的方法。 之前的分享中提到过，在 Large Reasoning Model 时代，RL 的方法几乎都是 Reinforcement Learning with

马东锡 NLP 🇸🇪

马东锡 NLP 🇸🇪

2025-03-19 15:55:38

Large Reasoning Model时代, 几乎等于Reinforcement Learning + LLM的时代。 但RL专业性非常强，去参加ML的会议时，专门做RL的研究员都现场拿着笔纸推算数学公式，掌握起来学习难度较高。 分享一本RL的入门教材，从RL基础MDP，PPO，直到跟LLM结合，如RLHF，都有讲解，深入浅出。 Reinforcement Learning: An O

马东锡 NLP 🇸🇪

马东锡 NLP 🇸🇪

2025-03-17 07:10:45

大语言模型 post-training 的变迁，从 Large Language Model (LLM) 到 Large Reasoning Model (LRM) 本周推荐论文：POST-TRAINING OF LARGE LANGUAGE MODELS Post-training，本质是在做一件事，即如何运用 LLM 的 pretrained knowledge 来解决实际任务，具体的方法

Gorden Sun

Gorden Sun

2025-03-02 21:57:18

olmOCR：可能是目前最好的开源OCR模型 基于微调后的7B视觉语言模型，微调数据为260000页PDF页面，完全开源，包括模型权重、数据和训练代码、推理代码，4090可以本地运行。 Github： 模型： 在线使用：

九原客

九原客

2025-03-01 23:07:53

最近两三周给很多客户反复提及的忠告： 用模型一定要用最好的那个，如果想省钱，请在你的场景下微调，而不是用一个低能力的通用模型，然后试图靠 Prompt 或者工程努力去拯救它。 比如 DeepSeek 的那一堆蒸馏模型是很好的场景级推理模型的Base，但是不要直接用，真的很差。