偶像派作手
28分钟前
偶像派作手
28分钟前
BlueJay
7小时前
SemiAnalysis at Lex Fridman $NVDA and DeepSeek - 當你從 10 億美元的走私增加到 100 億美元時,本質上是隱藏了某些層級的經濟活動。對我來說,最合理的說法是,當規模達到某個程度時,它會變得如此明顯,以至於更容易被發現這種經濟活動。 - 去年大約——NVIDIA 生產了 100 萬張 H20,這些是合法允許運往中國的。這款 GPU 在推理(reasoning inference)方面表現較佳,至少在推理而非訓練方面表現更好。 - 此外,還有幾十萬張 GPU,我們估計大約 20 萬至 30 萬張 GPU,是從新加坡、馬來西亞、美國等地轉運至中國的。許多公司成立後,購買 16 張、64 張 GPU 等等,然後再轉運。 - 華為則被認為自 2018 年禁令生效後,建立一個龐大的公司網絡,以獲取所需的材料。 - 所以,這並不是什麼天方夜譚的事情。但我同意這個觀點:「嘿,你不可能走私價值 100 億美元的 GPU。」 - 然後還有第三個來源,這剛剛才被禁止,之前並不被視為走私:中國正在租用 GPU。 - 根據我們的研究, $ORCL 最大的 GPU 客戶是字節跳動(ByteDance),而對 $GOOGL 來說,字節跳動可能是他們的第二大客戶。
Houge
2天前
indigo
5天前
芯片数据摸底还得靠 SemiAnalysis!今天最新这篇提到了 DeepSeek 拥有的 GPU 数量不是某些人声称的 50,000 个 H100,而是 10,000 个 H800 和约 10,000 个 H100,剩下 30,000 左右的 H20,这是 Nvidia 在出口管制法案之后为中国市场定制的。 SemiAnalysis 的分析表明,DeepSeek 的服务器 CapEx 总额接近 13 亿美元,这些 GPU 由 High-Flyer 和 DeepSeek 共享,它们被用于交易、推理、训练和研究! 文章中最有趣的观点就是 AI 模型产业与芯片产业的类比,就像在最新一期的 Indigo Talk 中提到的 - 大模型正在商品化,与芯片制造工艺迭代逻辑类似。 1. 前沿能力带来超额利润 - 在芯片产业里,最先进制程(比如台积电领先的 3nm、2nm)往往拥有高额的毛利率。做“落后一代制程”的代工厂只能打价格战; - 在大模型市场,“前沿水平的推理/生成能力” 同样可以定更高的价格,为早期付费用户提供独家或高质量服务,进而获得溢价; 2. 快速迭代与淘汰 - 芯片工艺每一代很快就更新,AI 模型同理,更新迭代速度越来越快 —— 谁能最先推出下一代“推理/思考”能力,谁就能够暂时占领高端市场; - 同时,过往一代的技术不会立即消失,会在某些场景继续存在,但利润和售价往往走低,与新一代“前沿能力”拉开差距; 3. 规模、效率与摩尔定律 / 算力扩张的矛盾 - 芯片制造商要通过更精细的工艺(规模效应)推动晶体管数量的指数增长。但越是先进制程,研发与设备投入越是惊人; - AI 模型也在追求“更大规模”与“更高效率”的矛盾:一方面大家想训练更大的模型来突破能力上限,另一方面也在积极提升训练/推理效率、降低成本; - Jevons 悖论:当每次训练或推理变得更便宜时,模型推理调用量会激增,总体算力需求反而上升(如同手机、云计算普及后算力需求的爆炸式增长)。 4. 技术领先者的地位与盈利 - 芯片代工龙头(TSMC)之所以能持续保持高盈利,在于其维持了对下一代工艺节点的快速投入和良率领先,使竞争对手短期很难追上; - 大模型赛道里,OpenAI、Google、Anthropic、Meta 等会通过持续大规模资金投入在新一轮“算法+算力”中领先。如果哪家公司短暂落后,就必须以降价或开放等策略跟进; 因此,AI 模型的商业化进程很可能出现类似芯片产业的“前沿与追随”并存格局: - “前沿模型” 依靠新一代推理能力赚取高额利润; - “追随模型” 则以相对较低价格抢占中低端或更多场景市场; - 双方都持续增长对算力(GPU 等硬件)的需求,进一步刺激芯片企业的发展。 最后总结下对 Nvidia 的影响: - 短期内:DeepSeek 等高效模型的出现非但不会削弱 GPU 需求,反而加剧争抢,Nvidia 的 H100/H200 价格和市场需求高企; - 中长期:前沿模型升级与新一轮“能力竞赛”将继续扩大整体算力需求,Jevons 悖论带动 GPU 采购量不降反升,维系甚至增进 Nvidia 在 AI 训练/推理硬件领域的盈利地位; - 只要有足够的前沿芯片投入市场,在短期内很难被其它产品或自研 ASIC、国内 GPU 芯片替代,Nvidia 将保持对 AI 训练/推理硬件市场的统治地位; - 出口管制对中国买家采购 Nvidia 高性能芯片会带来一定阻力,但市场仍会尽可能在政策缝隙中购入高端硬件,或转向 Nvidia 专为中国市场推出的“缩水版”高端产品,整体需求依旧旺盛; 从 Semianalysis 这篇报道的观点出发,高效 AI 模型并不会让 Nvidia 的市场萎缩,反而更可能助推 Nvidia 的先进 GPU 需求和全球出货量持续上行。
大雄的微笑
1周前
大雄的微笑
1周前
头条热点
1周前
偶像派作手
1周前
RFA 自由亞洲粵語
1周前
空空 🌟 狞猫世界第一可爱!
1周前
Yachen Liu
1周前
karminski-牙医
1周前
速报,寄了嗷,NVIDIA Project Digits 内存带宽只有 275GB/s. 意味着跑 70B-int4 速度只能到 6.8 token/s. 如果跑 DeepSeek-R1-Distill-Qwen-32B-Q5_K_M, 大概是 12.5 token/s. 就是个更便宜的 MacMini M4 Pro。 如果信了老黄的说法,用这个跑200B的大模型,一分钟也就能吐出来2句话。
勃勃OC
2周前
Cheddar Flow
2周前
*Walter Bloomberg
2周前
World of Statistics
3周前
Jukanlosreve
3周前
Dividend Dude
3周前
Advanced Micro Devices $AMD has again hit another 52-week low under $115/share… If $AMD can take even a small fraction of Nvidia’s $NVDA market-share this becomes a very good time to buy. However this is speculative to bet on them to do so, is this an opportunity? 🤔
勃勃OC
3周前
The Kobeissi Letter
3周前
*Walter Bloomberg
4周前
James Lt
4周前
图拉鼎
4周前
fox hsiao
4周前
NVIDIA 黃仁勳 CES 2025 開場演講,AI 無所不在 - 完整中英字幕對照 NVIDIA 執行長黃仁勳在 CES 2025 的主題演講中,揭示人工智慧 (AI) 發展的嶄新紀元。他展示 NVIDIA 如何引領這波科技浪潮,將 AI 的力量帶入各個領域,包含遊戲、企業應用、機器人以及自動駕駛等。 黃仁勳首先回顧 NVIDIA 的發展歷程,從早期遊戲顯示卡的研發到近年在 AI 領域的突破,展現 NVIDIA 如何從一家圖形處理器公司轉型為 AI 技術的領導者。他強調 AI 的發展已從「知覺 AI」進化到「生成 AI」,現在更邁向「代理 AI」階段,AI 不僅能夠感知和生成,更能進行推理、規劃和行動,這將徹底改變人類與電腦互動的方式。 演講中,黃仁勳發表多項 NVIDIA 的最新技術。GeForce RTX 50 系列顯示卡以其強大的效能和創新的 AI 技術,如光線追蹤加速和 DLSS 畫格生成,將遊戲畫面提升到全新境界。Blackwell 伺服器則以其高效能和能源效率,滿足企業對 AI 規模化的需求,加速 AI 訓練和部署。 NVIDIA 也推出了 NIMS 和 NEMO 平台,協助企業應用 AI。企業可藉此建立和訓練 AI 代理,提升工作效率和自動化程度。黃仁勳更進一步展望 AI 的未來,發表 NVIDIA Cosmos 世界基礎模型。Cosmos 旨在理解物理世界,並應用於機器人和工業 AI 領域。Cosmos 的出現,使 AI 能夠更深入地理解和模擬真實世界,進一步推動機器人和自動駕駛的發展。 在自動駕駛領域,NVIDIA 推出了新一代車用電腦 Thor,其強大的效能和通過 ASIL D 認證的安全設計,預計將加速自動駕駛汽車的發展。此外,NVIDIA DriveOS 成為首款通過 ASIL D 認證的軟體定義 AI 電腦,為自動駕駛汽車提供更安全可靠的保障。 黃仁勳也強調 AI 人才培育的重要性,並宣布推出 Project Digits,將 AI 超級電腦的規模縮小到一般使用者也能輕鬆使用,讓更多人有機會接觸和學習 AI 技術。 台積電:作為 NVIDIA 的主要晶片代工夥伴,台積電可望持續受惠於 NVIDIA 的 AI 產品需求,並在先進製程技術上保持領先地位。 鴻海:鴻海積極佈局電動車和機器人領域,NVIDIA 的 Thor 車用電腦和 Isaac Groot 機器人平台,可望為鴻海的發展提供助力。 聯發科:與 NVIDIA 在晶片設計上的合作,有助於聯發科提升在 AI 領域的技術能力,並拓展在 AIoT 市場的應用。 豐田汽車:與 NVIDIA 合作開發自動駕駛技術,可望加速豐田在自動駕駛領域的發展,並提升其汽車產品的競爭力。 發那科:作為全球領先的工業機器人製造商,發那科可望利用 NVIDIA 的 AI 技術和平台,開發更智慧、更具效率的工業機器人。 Sony:Sony 在遊戲和影像領域擁有深厚的技術積累,NVIDIA 的顯示卡和 AI 技術,可望為 Sony 的產品創新提供更多可能性。
Inty热点新闻
4周前