#Pytorch

1个月前

谷歌的底气来自其第七代Ironwood TPUv7的显著进步。在关键性能参数上，TPUv7已能与英伟达当前的旗舰产品BlackwellB200分庭抗礼。在FP8精度下，TPUv7的峰值算力约为4.6PFLOPS，甚至略高于B200的4.5PFLOPS。在显存配置上，两者均配备了192GB的HBM3e高速内存。英伟达长期以来最深的护城河，并非仅仅是硬件性能，更是其建立的CUDA软件生态系统。数以百万计的开发者被绑定在这一平台上，形成了极高的转换成本。然而，谷歌正在巧妙地拆除这道壁垒。它没有强推自己的JAX语言，而是选择拥抱由Meta发明的PyTorch。通过新开发的“TPU CommandCenter”软件，谷歌让开发者能够像使用GPU一样，通过熟悉的PyTorch环境调用TPU算力。这一策略极其精明——既利用了Meta的开源遗产，又大幅降低了潜在客户的迁移门槛。

谷歌TPU崛起，英伟达面临市场危机· 19 条信息

#谷歌TPUv7 #英伟达B200 #算力竞争 #Pytorch #CUDA生态

1个月前

CUDA + PyTorch仍然统治地位，TPU动摇不了

谷歌TPU崛起，英伟达面临市场危机· 19 条信息

#CUDA #Pytorch #TPU #人工智能 #深度学习

1个月前

PyTorch 之父离职：不想做一辈子 PyTorch 离开了 Meta 和 PyTorch 辞职信全文：

#Pytorch #Meta #离职 #PyTorch之父 #深度学习框架

1个月前

支持 PyTorch 大佬！顶尖的黑客不光是技术牛逼，更重要的是，他们尊重自己的内心用自己牛逼的能力去探索未知的世界，那样才好玩！

#Pytorch #黑客 #技术牛逼 #探索未知 #尊重内心

3个月前

从 Blackwell 开始 GPU 没那么好玩了。我记得很久以前每次买一张新（消费级）卡，插上电脑，都能直接体验到PyTorch/游戏性能提升，但是现在换上新卡，以前优化到极致的 kernel 性能不升反降，速度提升全都依赖低精度（fp8/fp4），还需要自己手调，着实没有以前那种 it just works 的感觉了。以后可能 raw power 的提升会进一步变慢，靠的都是奇技淫巧。

#blackwell #GPU性能下降 #Pytorch #低精度计算 #优化挑战

3个月前

今年大一，如何现在开始系统地基于pytorch框架，自学算法技术？以便大三时具备顶级清北研究生的水平，到字节seed团队实习？有网友支支招吗？

#大一 #Pytorch #算法 #自学 #字节Seed

9个月前

腾讯混元安全团队-朱雀实验室发布了AI-infra-guard大模型基础设施评估工具，检测AI系统潜在安全风险。目前已在GitHub开源，支持检测30种AI组件，200+安全漏洞数据库，包含朱雀实验室发现的Nvidia Triton，Pytorch，ComfyUI与Ray等知名AI组件漏洞。 #AIsecurity

#腾讯 #混元安全 #朱雀实验室 #AI-infra-guard #AI #大模型 #基础设施 #安全评估 #AI系统 #安全风险 #GitHub #开源 #AI组件 #安全漏洞 #Nvidia Triton #Pytorch #comfyUI #Ray