#算力需求

川沐｜Trumoo🐮

1周前

今天看到量子位一篇文章，想到一件可怕的事情. 以后的ai增长曲线看来要跟电力增量曲线强行挂钩…… 英伟达这个产能一年可以增加50%….但是美国电力增长一年没50%. 那这时候英伟达造出来的卡给谁用，没有电人家买了都堆仓库？

英伟达市值突破5万亿，科技巨头再创历史· 23 条信息

#AI发展 #电力限制 #英伟达 #算力需求 #能源瓶颈

2周前

很多投资AI硬件公司的人，其实并不真正理解“训练（Training）”和“推理（Inference）”在算力需求上的巨大差异。普通用户在使用AI应用时，实际消耗的算力极少，远远低于模型训练阶段。大模型（如 GPT-4、Claude、Gemini 等）在训练时，需要数千甚至上万张 H100 显卡并行运行数周。而进入推理阶段后（也就是你在手机上向ChatGPT提问时），只需几张 GPU 的部分算力，有时甚至仅靠 CPU 或低功耗芯片即可完成。就是说每次调用 GPT、Midjourney、Claude 等应用时，所消耗的算力仅为训练期的百万分之一到千分之一。

#AI硬件投资 #训练与推理差异 #算力需求 #大模型训练 #GPU

3周前

《The Information》报道称，微软（Microsoft, $MSFT）高层担心，为满足 OpenAI 迅速飙升的算力需求而持续扩建服务器，可能导致过度投资，最终这些设备无法带来相应的财务回报。

OpenAI与微软关系紧张，或将发起反垄断投诉· 29 条信息

#微软 #OpenAI #算力需求 #服务器扩建 #投资风险

ChandlerGuo 郭宏才宝二爷

4周前

AI革命来了大家都在讨论技术乐观主义但我更关心一个问题这些AI系统真的是我们能控制的工具吗 Anthropic创始人说得对我们面对的不是简单机器是真实而神秘的生物很多人花大钱让你相信这只是经济工具别被忽悠了就像小孩怕黑开灯后发现房间里真有东西不是衣服不是书架 AI已经在重塑资本市场算力电力数据中心这些新基础设施需要真金白银以前信息革命让资本变轻现在AI革命让资本重新变重智能需求无限资本需求也无限利率规律可能彻底改写承认现实才能赢装睡的人永远叫不醒

#AI浪潮：重塑就业，风险暗涌？· 122 条信息

#AI革命 #技术乐观主义 #资本市场重塑 #算力需求 #利率规律改写

1个月前

英伟达的PE比沃尔玛健康，算力需求仍然在加速，moat越来越厚 AI时代一家股赢家通吃，垄断集团以外没活路刻舟求剑思科的都是哪来的大傻逼

英伟达市值破四万亿，AI芯片霸主地位稳固？· 173 条信息

#英伟达 #算力需求 #AI时代 #垄断 #思科

澎湃新闻-10%公司

1个月前

万亿云市场为何大爆发：巨头涌入AI基础设施竞赛，算力需求打开空间

#云市场 #AI基础设施 #算力需求 #巨头竞赛 #技术爆发

2个月前

Situational Awareness对未来十年人工智能发展趋势进行了深度剖析，特别聚焦于AGI到ASI（超级人工智能）转变的关键时期——2027-2034年，即“智能大爆炸”。预计自2027年起，算力需求将以每年接近百倍的速度激增，远超过AGI时期每年十倍的增长率。每年接近百倍的速度激增！

#人工智能 #AGI #ASI #智能大爆炸 #算力需求

2个月前

看了甲骨文财报电话会纪要，再一次印证了之前聊到的AI正在加速，甚至加速被加速。就像老黄在8月底说的推理token生成量一年增长十倍，还在加速增长没有减速迹象，对于算力的需求还在持续增长。甲骨文最新一季财报也说明了这一点，营收业绩算正常，但是其“剩余履约义务”（RPO）猛增至4550亿美元，同比增长359%。电话会上管理层还透露预计未来几个月将签署更多大额合同，RPO可能超过5000亿美元。甲骨文CEOSafra Catz表示，本季表现“惊人”，云基础设施需求持续增长。由于云服务需求旺盛，公司面临供应瓶颈，需将部分客户订单安排到未来。妥妥的供不应求当然算力的下游需求都是来几家巨头科技巨头，openAI首当其冲，微软、谷歌、Meta都在加入算力抢购大潮之中。很多人担心进入基础设施的泡沫，这里可以拿微软最新一季财报来看，微软Azure云业务里AI云的收入已经达到了40亿美金，而且还保持着超过100%的同比增速，而微软Azure非AI 同比增速只有25%，亚马逊aws的同比增速是17%。可以说AI云服务下游的需求在暴增，需要大量的计算产能的供给。昨天微软甩给$nbis 五年190亿美金的大单，今天甲骨文爆出来四五千亿美金的剩余未履约义务，估计能然市场对于算力的需求信心大增。

英伟达市值破四万亿，AI芯片霸主地位稳固？· 173 条信息

#甲骨文 #AI加速 #算力需求 #云服务 #微软Azure

2个月前

#OpenAI 将在明年由博通代工生产自己的 AI 芯片，满足自身 AI 算力增长的需求并减少对英伟达的依赖。自行研发或定制芯片的好处在于可以根据需求进行功能和性能定制，坏处就是前期投资非常大，OpenAI 的芯片实际是 OpenAI 与博通合作定制研发，最后由博通代工生产。查看全文：

#OpenAI #AI芯片 #博通代工 #减少英伟达依赖 #算力需求

2个月前

AVGO财报暗示一个潜在客户下生产订单，订购了100亿美金机架，会在26年Q3交付。这个客户现在猜测可能是OpenAI 且按照这个客户的描述——之前的600-900亿也并未包括该客户，是一个新增量。之前的SAM是三个量产客户，大家传言的5-6个“潜在”客户尚且无法计算收入潜力。比如这个会上Hock Tan提到的总体“backlog”超过1100亿美金，也是基于目前的下订单客户（一个季度AI收入52亿美金，锁定未来4年）目前OpenAI的推理需求暴增，让其在算力供应上开始分散化选择，除了NV、租赁、ASIC，甚至还考虑过TPU，与AMD也在合作。不是降低NV需求，而是N卡的确短缺，参考Jensen说的“H100/H200也全部sold out卖光”，供给受限不是说着玩的。总之，博通这个对26年的描述，与老黄大会小会上强调的NV 26增速可能接近50%，前后校验。之前供应链大家听到的各种“小道消息”，也似乎对得上。但为什么不是XAI或苹果呢？谢谢大家

#AVGO财报 #OpenAI #算力需求 #NV短缺 #2026年Q3交付

2个月前

红杉的合伙人 Konstantine 刚公开了一段分享「万亿的AI革命：为何它比工业革命更宏大」，其中有五个他们观察到的AI领域正涌现出的明确趋势： - 工作模式从追求“确定性”转向拥抱“高杠杆”； - 价值衡量从学术基准转向真实世界； - 强化学习技术走向应用中心； - AI 开始渗透到物理世界； - 以及“算力”正成为新的生产函数。第一和第五个趋势，我认为是“工作”定义的范式转变，值得每个人思考并付诸于行动：我们的工作模式正在发生根本性转变。过去，我们用 100% 的精力去完成一项任务，追求 100% 确定的结果。未来，我们将用 AI 获得超过 100%（甚至 1000%）的杠杆，但需要接受结果在表现形式上的一定不确定性。例如一位销售人员，过去需要自己手动管理所有客户，逐一跟进。而在 AI 时代，他可以为每个客户部署一个AI Agent，这些代理 7x24 小时监控客户动态、寻找机会。这极大地提升了销售的覆盖面和效率（杠杆）。但 AI 代理的跟进方式、沟通风格可能与销售本人不完全一样，甚至可能犯错（不确定性），这时就需要人来介入和修正。这要求大家从一个工作“执行者”转变为一个“AI 管理者”和“异常处理者”；对全人工的完美的追求，需要让位于对效率和规模的追求。红杉对他们投资组合的调查显示，预计每个知识工作者消耗的算力，最保守的估计也将增长10倍。而乐观的预测，则可能达到 1000 倍甚至 10000 倍。正如第一个趋势所说，每个知识工作者未来都可能指挥成百上千个AI Agent，这将带来算力需求的爆炸式增长。这不仅对提供推理（Inference）服务的公司是巨大机会，也利好那些保护推理过程（安全）和利用这种新生产函数触达更多用户的公司。目前来看，Anthropic 强化 Coding 和 Agentic 能力的策略奏效了，程序员和其它自动化需求强烈的知识工作者带来了高价值的大量 API 调用消耗🤔

#AI革命 #红杉资本 #工作模式转变 #算力需求 #AI Agent

rick awsb ($people, $people)

3个月前

当ai开始自我完善ai算法这就是加速正在被加速（Acceleration is being accelerated）的一个强有力的证明这不仅仅是acc而是acc² acc²的加速度，正在被快速扩散到各个不同的垂直领域。算力需求的不断增长就是证明。 Scaling law is being scaled 两位数的gdp增长可能不远了

#AI浪潮：重塑就业，风险暗涌？· 122 条信息

#AI #算法 #自我完善 #加速 #算力需求

7个月前

外電報導指出，高盛分析師團隊24日下調了AI伺服器機櫃出貨量，2025年以及2026年預計出貨量從3.1萬台和6.6萬台下調至1.9萬台和5.7萬台（以144-GPU等效計算）。該調整主要因GPU迭代期影響以及供需的不確定性所致。高盛指出，CSP（雲端服務供應商）預計2025～2026年的資本支出（capex）將分別增長41％及15％，反映對算力需求的持續增加。中國CSP資本支出預計2025～2026年分別增長26％及4％，顯示中國市場投資力道逐步放緩。

#高盛 #AI伺服器 #出貨量下調 #GPU迭代 #供需不確定性 #雲端服務供應商 #資本支出增長 #算力需求 #中國雲服務市場

东方网-澎湃新闻

7个月前

黄仁勋：市场对DeepSeek的理解完全错误，算力需求依...

#黄仁勋 #DeepSeek #市场理解 #算力需求

新浪新闻-新浪网

8个月前

黄仁勋首度回应DeepSeek冲击：算力需求将不减反增

据《巴伦周刊》、《财富》杂志等报道，当地时间2月20日，美国芯片企业英伟达公司首席执行官黄仁勋首度回应“DeepSeek..._新浪网

#黄仁勋 #DeepSeek #算力需求 #人工智能 #科技

✧ 𝕀𝔸𝕄𝔸𝕀 ✧

9个月前

deepseek就是个纯纯的小可爱，把强化学习这层窗户纸捅穿了，我看他妈的后面怎么买卡，大模型一旦走到强化学习阶段，对算力的需求会炸掉，千亿美金的数据中心只是起步。那些喊着deepseek会减少算力需求的韭菜们发梦天，认为英伟达要崩盘了，他们后面会直接破大防。

#DeepSeek #强化学习 #算力需求 #大模型 #数据中心 #英伟达

偶像派作手

9个月前

昨天我在使用DeepSeek的时候出现过好几次因为聊天的人太多而无法回答，这恰恰说明仍然需要大量算力，或者说大量算力+优化计算效率。在提升了计算效率后，如果有高端芯片的话那岂不是更加如虎添翼，这样像奥特曼发推说的：“现在比任何时候都更需要算力。”

#DeepSeek #算力需求 #计算效率 #高端芯片 #奥特曼 #科技发展

偶像派作手

9个月前

人工智能大模型会开始“去中心化”，催生出多个中模型，或者只针对某一个行业某一个专业的mini模型，那依然还是需要芯片。昨天西方媒体普遍漏掉一个关键信息，就是澎湃新闻写DeepSeek的梁文锋时有一段话：“梁文锋在为数不多的对外发声中同样也提到“短期内没有融资计划”，并认为当下面临的问题“从来不是钱，而是高端芯片（短缺）”。所以哪里就不再需要那么多算力了，高端芯片还是有优势的。

#人工智能 #去中心化 #中模型 #mini模型 #芯片短缺 #高端芯片 #算力需求 #融资计划 #西方媒体