#算力需求

avatar
听了很值得听的一期播客《硅谷101｜AI数据中心的万亿大基建时代：美国GDP增长全靠它》。 因为播客很长，所以分享一下自己记录的一些要点，整理了其中提到的和电力、算力相关的一些标的。如果有时间还是可以听一听完整版本。 观点部分： 1️⃣做数据中心中最猛的公司有哪些？OpenAI最激进，目标构建10吉瓦乃至长期100吉瓦的算力容量。xAI、Meta同样激进，扫货涡轮发电机、抢占能源低廉土地建数据中心。（5-7万亿的投资在路上） 1吉瓦对应50billion的投资。 2️⃣微软建数据中心速度加快，在这一年中对于建立数据中心的想法有发生变化。Google 微软本身已有的云中心就超过了10吉瓦。因此新兴AI公司会更加激进。 3️⃣芯片不如能源那么短缺。过去 2年芯片的产能已经扩展了。记忆体缺口会稍大，但是最大的缺口还是来自于电力。 4️⃣Power First战略背后的逻辑：谁有电就能用得上这么大量的算力，从而获得更大的市场份额，产生利润从而循环这个过程。“投资不足”风险远大于“过度投资”风险。 5️⃣Andy gives, Bill takes away. 安迪指英特尔前CEO安迪·格鲁夫，比尔指微软前任CEO比尔·盖茨，这句话的意思是，硬件提高的性能，很快被软件消耗掉了。目前大厂内（META等)内部的GPU是不足的，用于内部就需要很多算力。就算有多余算力，可以用于内部降本。 6️⃣为何要建大的数据中心（大于1吉瓦）？降低运营成本+提供AI训练效率。趋势是万卡集群到10万卡集群甚至更大。 7️⃣算力用在了哪里？两年前更多的算力用在了预训练，预训练无法产生收益，现在更多转到了推理（6成），预计未来应用和推理的占比会不断提高（真正创造GDP）。 8️⃣闲置算力可以初创公司用于推理，但是更适合startup而不是大厂，大厂更在意效率。 9️⃣数据中心的电力⚡️来源：美国电力系统过去20年增长缓慢，年增1%，远慢于数据中心的增速 新增需求：美国需要增加80吉瓦发电量， 缺口：20吉瓦每年（8吉瓦来自数据中心） 纽约年用电量在6-11吉瓦 供应：天燃气为主，太阳能储能，核能（2028年后） 🔟美国电网脆弱： 发电（50%）-输电（20%）-配电（30%）。现有电网吸纳这些新发电量也有困难。 燃气涡轮机订单排到2028年，马斯克横扫全美70%库存。 变压器核心材料硅钢进口受限，制约电网基础设施升级，宝钢产量巨大但是无法进口。 1️⃣1️⃣英伟达构想供电新方案——高压800v直流，用于数据中心内的机柜之间。GPU的升级要求更多的power，更高电压可以降低传输中的损失，减少对铜的需求。这部分还停留在构想。 1️⃣2️⃣今年美国数据中心的用电量占全国5%，接近整个加州的用电量，并且2030年将翻倍。 1️⃣3️⃣长距离传输电网建设缓慢。避开长距离传输短板，美国科技公司选择在数据中心旁自建发电站 1️⃣4️⃣美国电力建设，相关的能源股能源股？ $OKLO $CEG 核能板块 铜相关 天然气相关 $GE $FLNC $EOSE 储能 $CIFR $IREN $BTDR 矿业转发电
谷歌TPU崛起，英伟达面临市场危机· 19 条信息
#AI数据中心 #电力短缺 #算力需求 #美国电网 #能源投资
avatar
如果房子盖好了没人住，那是房地产泡沫；但现在的状况是，每一块GPU只要一上架，立马就被抢光并插电满载狂转。
#GPU #算力需求 #供不应求 #科技泡沫
avatar
今天看到量子位一篇文章，想到一件可怕的事情. 以后的ai增长曲线看来要跟电力增量曲线强行挂钩…… 英伟达这个产能一年可以增加50%….但是美国电力增长一年没50%. 那这时候英伟达造出来的卡给谁用，没有电人家买了都堆仓库？
英伟达市值突破5万亿，科技巨头再创历史· 44 条信息
#AI发展 #电力限制 #英伟达 #算力需求 #能源瓶颈
avatar
卢尔辰
1个月前
很多投资AI硬件公司的人，其实并不真正理解“训练（Training）”和“推理（Inference）”在算力需求上的巨大差异。 普通用户在使用AI应用时，实际消耗的算力极少，远远低于模型训练阶段。 大模型（如 GPT-4、Claude、Gemini 等）在训练时，需要数千甚至上万张 H100 显卡并行运行数周。 而进入推理阶段后（也就是你在手机上向ChatGPT提问时），只需几张 GPU 的部分算力，有时甚至仅靠 CPU 或低功耗芯片即可完成。 就是说每次调用 GPT、Midjourney、Claude 等应用时，所消耗的算力仅为训练期的 百万分之一到千分之一。
#AI硬件投资 #训练与推理差异 #算力需求 #大模型训练 #GPU
avatar
勃勃OC
2个月前
《The Information》报道称，微软（Microsoft, $MSFT）高层担心，为满足 OpenAI 迅速飙升的算力需求而持续扩建服务器，可能导致过度投资，最终这些设备无法带来相应的财务回报。
OpenAI与微软关系紧张，或将发起反垄断投诉· 29 条信息
#微软 #OpenAI #算力需求 #服务器扩建 #投资风险
avatar
AI革命来了 大家都在讨论技术乐观主义 但我更关心一个问题 这些AI系统真的是我们能控制的工具吗 Anthropic创始人说得对 我们面对的不是简单机器 是真实而神秘的生物 很多人花大钱让你相信这只是经济工具 别被忽悠了 就像小孩怕黑 开灯后发现房间里真有东西 不是衣服不是书架 AI已经在重塑资本市场 算力电力数据中心 这些新基础设施需要真金白银 以前信息革命让资本变轻 现在AI革命让资本重新变重 智能需求无限 资本需求也无限 利率规律可能彻底改写 承认现实才能赢 装睡的人永远叫不醒
#AI浪潮：重塑就业，风险暗涌？· 140 条信息
#AI革命 #技术乐观主义 #资本市场重塑 #算力需求 #利率规律改写
avatar
RamenPanda
2个月前
英伟达的PE比沃尔玛健康，算力需求仍然在加速，moat越来越厚 AI时代一家股赢家通吃，垄断集团以外没活路 刻舟求剑思科的都是哪来的大傻逼
英伟达市值破四万亿，AI芯片霸主地位稳固？· 216 条信息
#英伟达 #算力需求 #AI时代 #垄断 #思科
avatar
万亿云市场为何大爆发：巨头涌入AI基础设施竞赛，算力需求打开空间
#云市场 #AI基础设施 #算力需求 #巨头竞赛 #技术爆发
avatar
Olivert
3个月前
Situational Awareness对未来十年人工智能发展趋势进行了深度剖析，特别聚焦于AGI到ASI（超级人工智能）转变的关键时期——2027-2034年，即“智能大爆炸”。预计自2027年起，算力需求将以每年接近百倍的速度激增，远超过AGI时期每年十倍的增长率。 每年接近百倍的速度激增！
#人工智能 #AGI #ASI #智能大爆炸 #算力需求
avatar
qinbafrank
3个月前
看了甲骨文财报电话会纪要，再一次印证了之前聊到的AI正在加速，甚至加速被加速。就像老黄在8月底说的推理token生成量一年增长十倍，还在加速增长没有减速迹象，对于算力的需求还在持续增长。甲骨文最新一季财报也说明了这一点，营收业绩算正常，但是其“剩余履约义务”（RPO）猛增至4550亿美元，同比增长359%。电话会上管理层还透露预计未来几个月将签署更多大额合同，RPO可能超过5000亿美元。 甲骨文CEOSafra Catz表示，本季表现“惊人”，云基础设施需求持续增长。由于云服务需求旺盛，公司面临供应瓶颈，需将部分客户订单安排到未来。妥妥的供不应求 当然算力的下游需求都是来几家巨头科技巨头，openAI首当其冲，微软、谷歌、Meta都在加入算力抢购大潮之中。很多人担心进入基础设施的泡沫，这里可以拿微软最新一季财报来看，微软Azure云业务里AI云的收入已经达到了40亿美金，而且还保持着超过100%的同比增速，而微软Azure非AI 同比增速只有25%，亚马逊aws的同比增速是17%。可以说AI云服务下游的需求在暴增，需要大量的计算产能的供给。 昨天微软甩给$nbis 五年190亿美金的大单，今天甲骨文爆出来四五千亿美金的剩余未履约义务，估计能然市场对于算力的需求信心大增。
英伟达市值破四万亿，AI芯片霸主地位稳固？· 216 条信息
#甲骨文 #AI加速 #算力需求 #云服务 #微软Azure
avatar
蓝点网
3个月前
#OpenAI 将在明年由博通代工生产自己的 AI 芯片，满足自身 AI 算力增长的需求并减少对英伟达的依赖。自行研发或定制芯片的好处在于可以根据需求进行功能和性能定制，坏处就是前期投资非常大，OpenAI 的芯片实际是 OpenAI 与博通合作定制研发，最后由博通代工生产。查看全文：
#OpenAI #AI芯片 #博通代工 #减少英伟达依赖 #算力需求
avatar
勃勃OC
3个月前
AVGO财报暗示一个潜在客户下生产订单，订购了100亿美金机架，会在26年Q3交付。 这个客户现在猜测可能是OpenAI 且按照这个客户的描述——之前的600-900亿也并未包括该客户，是一个新增量。 之前的SAM是三个量产客户，大家传言的5-6个“潜在”客户尚且无法计算收入潜力。 比如这个会上Hock Tan提到的总体“backlog”超过1100亿美金，也是基于目前的下订单客户（一个季度AI收入52亿美金，锁定未来4年） 目前OpenAI的推理需求暴增，让其在算力供应上开始分散化选择，除了NV、租赁、ASIC，甚至还考虑过TPU，与AMD也在合作。 不是降低NV需求，而是N卡的确短缺，参考Jensen说的“H100/H200也全部sold out卖光”，供给受限不是说着玩的。 总之，博通这个对26年的描述，与老黄大会小会上强调的NV 26增速可能接近50%，前后校验。 之前供应链大家听到的各种“小道消息”，也似乎对得上。 但为什么不是XAI或苹果呢？ 谢谢大家
#AVGO财报 #OpenAI #算力需求 #NV短缺 #2026年Q3交付
avatar
indigo
3个月前
红杉的合伙人 Konstantine 刚公开了一段分享「万亿的AI革命：为何它比工业革命更宏大」，其中有五个他们观察到的AI领域正涌现出的明确趋势： - 工作模式从追求“确定性”转向拥抱“高杠杆”； - 价值衡量从学术基准转向真实世界； - 强化学习技术走向应用中心； - AI 开始渗透到物理世界； - 以及“算力”正成为新的生产函数。 第一和第五个趋势，我认为是“工作”定义的范式转变，值得每个人思考并付诸于行动： 我们的工作模式正在发生根本性转变。过去，我们用 100% 的精力去完成一项任务，追求 100% 确定的结果。未来，我们将用 AI 获得超过 100%（甚至 1000%）的杠杆，但需要接受结果在表现形式上的一定不确定性。 例如一位销售人员，过去需要自己手动管理所有客户，逐一跟进。而在 AI 时代，他可以为每个客户部署一个AI Agent，这些代理 7x24 小时监控客户动态、寻找机会。这极大地提升了销售的覆盖面和效率（杠杆）。但 AI 代理的跟进方式、沟通风格可能与销售本人不完全一样，甚至可能犯错（不确定性），这时就需要人来介入和修正。 这要求大家从一个工作“执行者”转变为一个“AI 管理者”和“异常处理者”；对全人工的完美的追求，需要让位于对效率和规模的追求。 红杉对他们投资组合的调查显示，预计每个知识工作者消耗的算力，最保守的估计也将增长10倍。而乐观的预测，则可能达到 1000 倍甚至 10000 倍。正如第一个趋势所说，每个知识工作者未来都可能指挥成百上千个AI Agent，这将带来算力需求的爆炸式增长。 这不仅对提供推理（Inference）服务的公司是巨大机会，也利好那些保护推理过程（安全）和利用这种新生产函数触达更多用户的公司。目前来看，Anthropic 强化 Coding 和 Agentic 能力的策略奏效了，程序员和其它自动化需求强烈的知识工作者带来了高价值的大量 API 调用消耗🤔
#AI革命 #红杉资本 #工作模式转变 #算力需求 #AI Agent
avatar
当ai开始自我完善ai算法 这就是加速正在被加速（Acceleration is being accelerated）的一个强有力的证明 这不仅仅是acc而是acc² acc²的加速度，正在被快速扩散到各个不同的垂直领域。算力需求的不断增长就是证明。 Scaling law is being scaled 两位数的gdp增长可能不远了
#AI浪潮：重塑就业，风险暗涌？· 140 条信息
#AI #算法 #自我完善 #加速 #算力需求
avatar
勃勃OC
9个月前
外電報導指出，高盛分析師團隊24日下調了AI伺服器機櫃出貨量，2025年以及2026年預計出貨量從3.1萬台和6.6萬台下調至1.9萬台和5.7萬台（以144-GPU等效計算）。該調整主要因GPU迭代期影響以及供需的不確定性所致。 高盛指出，CSP（雲端服務供應商）預計2025～2026年的資本支出（capex）將分別增長41％及15％，反映對算力需求的持續增加。中國CSP資本支出預計2025～2026年分別增長26％及4％，顯示中國市場投資力道逐步放緩。
#高盛 #AI伺服器 #出貨量下調 #GPU迭代 #供需不確定性 #雲端服務供應商 #資本支出增長 #算力需求 #中國雲服務市場
avatar
黄仁勋：市场对DeepSeek的理解完全错误，算力需求依...
#黄仁勋 #DeepSeek #市场理解 #算力需求
avatar
黄仁勋首度回应DeepSeek冲击：算力需求将不减反增
据《巴伦周刊》、《财富》杂志等报道，当地时间2月20日，美国芯片企业英伟达公司首席执行官黄仁勋首度回应“DeepSeek..._新浪网
#黄仁勋 #DeepSeek #算力需求 #人工智能 #科技
avatar
deepseek就是个纯纯的小可爱，把强化学习这层窗户纸捅穿了，我看他妈的后面怎么买卡，大模型一旦走到强化学习阶段，对算力的需求会炸掉，千亿美金的数据中心只是起步。 那些喊着deepseek会减少算力需求的韭菜们发梦天，认为英伟达要崩盘了，他们后面会直接破大防。
#DeepSeek #强化学习 #算力需求 #大模型 #数据中心 #英伟达
avatar
偶像派作手
11个月前
昨天我在使用DeepSeek的时候出现过好几次因为聊天的人太多而无法回答，这恰恰说明仍然需要大量算力，或者说大量算力+优化计算效率。 在提升了计算效率后，如果有高端芯片的话那岂不是更加如虎添翼，这样像奥特曼发推说的：“现在比任何时候都更需要算力。”
#DeepSeek #算力需求 #计算效率 #高端芯片 #奥特曼 #科技发展
avatar
偶像派作手
11个月前
人工智能大模型会开始“去中心化”，催生出多个中模型，或者只针对某一个行业某一个专业的mini模型，那依然还是需要芯片。 昨天西方媒体普遍漏掉一个关键信息，就是澎湃新闻写DeepSeek的梁文锋时有一段话：“梁文锋在为数不多的对外发声中同样也提到“短期内没有融资计划”，并认为当下面临的问题“从来不是钱，而是高端芯片（短缺）”。 所以哪里就不再需要那么多算力了，高端芯片还是有优势的。
#人工智能 #去中心化 #中模型 #mini模型 #芯片短缺 #高端芯片 #算力需求 #融资计划 #西方媒体