深度角色扮演模型 DeepSex 使用思维链和强化学习技术增强模型角色扮演，小说生成能，提升模型的创作能力。四阶段进化架构：增量预训练：注入0.4T Token 小说，使用16k上下文训练，增强文本连贯性 Tifa-SFT：融合全球Top4角色扮演模型Tifa的10万条高质量数据 CoT恢复训练：采用Deepseek-32B/671B数据重建推理能力 RL强化：保留发散性思维标签的同时

#深度角色扮演 #DeepSex #思维链 #强化学习 #模型创作 #小说生成 #预训练 #角色扮演模型

相关新闻

Mr Panda

4天前

很多人私下跟我说自己没有方向，不会知道怎么写，也不知道怎么发，那你就从最笨拙的地方开始，不断的优化自己的行动，做一个人肉的强化学习的人肉智能体。就是要积极的触碰环境，在环境中不断的尝试行动，然后根据反馈的奖励来学习如何做出更好的决策，然后再将决策的方法内化，最后再作用于你的环境，如此循环往复。想不成功都难。先接受自己的笨拙我认为特重要，这世上从来没有缺聪明的人，但

Y11

1周前

每天上看一看又有什么新岗位出来，还是挺有意思的。譬如发现现在搞AI大模型预训练最大的门槛还是来自学历，而做AI Agent没这个要求，主要还是看能力。遇到自己原先不知道的工作岗位和工作内容，就可以模拟面试看一看，也会有启发。

汉松

1周前

DeepResearch Agent 有一个很大的问题就是多次的搜索阅读很容易就把上下文窗口用光了，常规的做法是像 Claude Code 一样，超过阈值就触发记忆压缩。通义的论文《ReSum》提出了一种在 RL 中让模型学会更好地利用压缩内容的方法。这个方法我们之前也考虑过，但这样做在强化学习的时候会有一个问题：一旦触发记忆压缩，整个历史记录都会变成压缩后的内容，此时模型就只能看到压缩后的

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

1周前

除了pretraining，其它所有都是围绕怎么与LLM交互展开的。 agent也是交互，预训练后的LLM只是个缸中之脑，语义和结构的混沌汤。 zhilin是炼模型的，说的是怎么内化交互，shunyu更关注作为交互的agent。

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

1周前

LLM预训练的成果应该由全人类共享：包括会话理解与推理思考。由梁文锋把DeepSeek的开源成果发Nature想到的。