#分布式推理

22小时前

马斯克打算拿你的电动车做分布式推理计算：马斯克在电话会议中说：“我想到的一件事是，如果我们有这么多可能闲着的汽车……我们实际上可以拥有一个庞大的分布式推理车队，然后说，如果它们没有在积极驾驶，我们就让它们进行大规模的分布式推理。” 马斯克继续说道： “假设车队规模达到数千万辆，或者达到一亿辆，并且假设届时车队拥有一千瓦的推理能力，或者说高性能推理能力，那么总共就是100吉瓦的推理能力，而且电力和冷却问题都已解决。这看起来是一项相当重要的资产。

马斯克的xAI融资计划引发市场热议，估值高达2000亿美元！· 23 条信息

#马斯克 #电动车 #分布式推理 #车队 #人工智能

2个月前

浅谈基于 Kubernetes 的 LLM 分布式推理框架架构：概览 (MoMo 和鲸) 好文推荐

#Kubernetes #LLM #分布式推理 #框架架构 #MoMo和鲸

5个月前

DualParal：生成1分钟长度的视频使用分布式推理策略，可以让DiT视频模型生成1分钟长度的视频。项目地址：

#DualParal #分布式推理 #DiT视频模型 #视频生成