#计算资源

3个月前

#OpenAI 推出新旗舰推理模型 o3-pro，利用更多计算资源进行深入思考提供更准确的回答。模型在数学、科学、编程方面表现优异，在清晰度、全面性、指令遵循性和准确性方面的评分也更高，缺点是响应时间更长。即日起 ChatGPT Pro 和 Team 及 API 开发者可使用该模型：

OpenAI新德里发布会：ChatGPT语音翻译功能引发热议· 519 条信息

#OpenAI #新旗舰模型 #O3-Pro #人工智能 #深度学习 #计算资源 #ChatGPT Pro #API开发 #技术创新

7个月前

#分享从 DeepSeek R1 了解推理模型的训练的四种方法 1. Inference-time scaling 在推理过程中增加计算资源以提高输出质量。一个经典的例子，就是 CoT，在 Prompt 中包含类似 `Think step by step` 的短语，它通过输出更多的 token 增加了计算资源。 2. 纯 RL DeepSeek-R1-Zero 仅通过强化学习而没有初始 SFT 阶段进行训练。同时，也没有使用使用接受人类偏好的奖励模型，而是采用了准确性（用 LeetCode 编译器来验证代码结果，以及一个确定性系统来验证数学答案）和格式奖励（将模型的思考过程强制包裹在 `<think></think>` 之间）。 3. SFT + RL DeepSeek 使用 DeepSeek-R1-Zero 来生成冷启动（Cold Start）数据。使用此冷启动的数据，DeepSeek 通过 SFT 微调了该模型，然后是另一个 RL 阶段。为了防止 Language Mixing 的问题，在 RL 阶段引入了语言一致性奖励。 4. SFT + 蒸馏与传统的模型蒸馏不同，DeepSeek 在小模型上（比如 Llama 8B、70B，Qwen 2.5 models）通过 DeepSeek-V3 和 DeepSeek-R1 生成的有监督数据，对小模型进行了微调。其结果是蒸馏的小模型表现比 DeepSeek-R1 要弱，但和 DeepSeek-R1-Zero 差不多。进一步，小模型纯 RL 和蒸馏的效果如何？DeepSeek 使用了 Qwen 32B 的模型作为作为对比。有趣的结果是，对于小模型蒸馏比 RL 要更有效。

#DeepSeekR1 #推理模型 #训练方法 #计算资源 #CoT #强化学习

8个月前

微软在 Azure AI 和 GitHub 上提供 DeepSeek 的 R1 模型这意味着企业和开发者可以更方便地集成和部署这个 AI 模型，无需自己搭建复杂的计算资源。 Azure 提供了一键部署，开发者可以快速测试和集成 AI 模型。微软还将很快提供一个精简版、更小的 R1，以便在 Copilot Plus PC 上本地运行。

#微软 #Azure AI #DeepSeek #GitHub #R1模型 #企业集成 #开发者 #AI模型部署 #计算资源 #一键部署 #Copilot Plus PC