#NVLINK

勃勃OC

4个月前

DeepSeek 推出了 DeepEP，这是一款开源通信库，旨在提高混合专家（MoE）模型的训练和推理效率。 DeepEP 通过支持 NVLink 和 RDMA 技术的节点内（intranode）和节点间（internode）配置来优化 GPU 通信。它具备高吞吐量和低延迟的计算内核，并支持 FP8 运算，旨在降低训练成本并提升 AI 模型的可扩展性。该发布受到了 AI 社区的热烈欢迎，凸显了其在处理大规模 AI 任务方面设立新标准的潜力。

#DeepSeek #DeepEP #开源通信库 #混合专家模型 #MoE模型 #GPU通信 #NVLINK #RDMA技术 #AI模型 #FP8运算 #计算效率 #AI社区

勃勃OC

5个月前

黄仁勋是认真的吗，72个BlackWell GPU外加HBM，NVLINK连在一个wafer上？这下咱们华强北的手工师傅们还怎么抄？所有现在还对中国这个国家有信心还想着脚踩两条船，给自己留后路的人脑子都有点问题，真的 seriously, not 人身攻击

#黄仁勋 #blackwell #GPU #HBM #NVLINK #wafer #华强北 #中国 #留后路