#AI训练GPU

2周前

美国的电力缺口，将是一个长期的问题。 AI模型公司Anthropic在一份报告中称，到2028年，美国AI行业将需要50千兆瓦的电力容量才能保持领先地位。报告称，美国在容量建设方面远远落后于中国，中国去年增加了400千兆瓦。 “目前美国完全没有做好2028年满足AI训练或推理能源需求的准备。” 除非美国政府和业界迅速解决这个问题，否则数据中心可能将无法获得足够的电力。就在一年前，领先的AI模型Llama 3还在1.6万块GPU上进行训练，传统云计算数据中心的功耗约为50兆瓦。现在，拥有数十万块GPU的训练集群正变得司空见惯，百万级GPU集群即将到来。但这些超级集群需要大量的电力。英伟达的Rubin Ultra AI服务器到2027年每机架的功耗将达到600千瓦，而目前的AI服务器功耗仅为120千瓦。能源供应将成为未来几年的主要瓶颈。

#美国电力缺口 #AI行业电力需求 #数据中心能源危机 #AI训练GPU #中国电力建设