#Pytorch

5天前

从 Blackwell 开始 GPU 没那么好玩了。我记得很久以前每次买一张新（消费级）卡，插上电脑，都能直接体验到PyTorch/游戏性能提升，但是现在换上新卡，以前优化到极致的 kernel 性能不升反降，速度提升全都依赖低精度（fp8/fp4），还需要自己手调，着实没有以前那种 it just works 的感觉了。以后可能 raw power 的提升会进一步变慢，靠的都是奇技淫巧。

#blackwell #GPU性能下降 #Pytorch #低精度计算 #优化挑战

1周前

今年大一，如何现在开始系统地基于pytorch框架，自学算法技术？以便大三时具备顶级清北研究生的水平，到字节seed团队实习？有网友支支招吗？

#大一 #Pytorch #算法 #自学 #字节Seed

6个月前

腾讯混元安全团队-朱雀实验室发布了AI-infra-guard大模型基础设施评估工具，检测AI系统潜在安全风险。目前已在GitHub开源，支持检测30种AI组件，200+安全漏洞数据库，包含朱雀实验室发现的Nvidia Triton，Pytorch，ComfyUI与Ray等知名AI组件漏洞。 #AIsecurity

#腾讯 #混元安全 #朱雀实验室 #AI-infra-guard #AI #大模型 #基础设施 #安全评估 #AI系统 #安全风险 #GitHub #开源 #AI组件 #安全漏洞 #Nvidia Triton #Pytorch #comfyUI #Ray