《超大规模实战手册》（来自huggingface科学团队的大规模LLM训练指南）近日已发布！🔥 246页的精美设计PDF，带您了解如何使用以下技术训练自己的DeepSeek-V3模型： • 5D并行， • ZeRO， • 快速内核计算/通信重叠和瓶颈，包含理论、互动图表、4000多个扩展实验和音频！

#大规模LLM训练 #DeepSeek-V3模型 #HuggingFace #5D并行 #ZeRO

相关新闻

马东锡 NLP

3天前

今天在 huggingface 上看到了 VibeThinker-1.5B，来自微博 AI。这个名字熟悉又陌生。才意识到，拥有巨量数据的微博，在 AI 领域不是掉队的问题，是似乎毫无存在感。

Michael Anti

1周前

一个很喜欢的小众私人训练的70B的LLM，从Openrouter撤下了，再看只有Huggingface上有，而且没云推理支持（如果自己部署要10美元/小时）。非常惋惜，只能以后买AI机器的时候，本地部署了。

Gorden Sun

2周前

LLM训练手册 HuggingFace分享了他们训练SmolLM3-3B的详细操作步骤，200多页的文档。地址：

meng shao

2周前

HuggingFace 发布的超长技术博客（200页，2-4天才能读完），完整记录了团队训练 SmolLM3 的全过程，对于想训练小模型的团队，必看！从训练指南、训练核心流程、最佳实践、基础设施和资源推荐，强调「通过精心策划的数据、稳定基础设施和优化流程，实现高性能模型，而非依赖巨型计算资源」，非常值得慢慢学习。

旧金山不是巴黎

1个月前

百团大战三条链 $zero 混战 SOL链：$zero AA8nmXa7fwfYjYtKEaKwkcCKJL5UmkvXYXE7NVmspump 当前市值330万排名第一 BSC链: $ZERO 0x3f3f82d44324eeba2df01b558ab862fdc4bb4444 当前市值260万排名第二 X链：$ZERO 0x7e2e882c35fdf2bc9bfb189183ff