范凯谈AI

统计数据

3

文章

0

粉丝

0

获赞

16

阅读

1个月前

我这两天仔细研究了一下Google的TPU，简单写一下我的初步结论： 1. Google TPU在特定的场景下，例如超大规模模型训练(万卡)和推理上，能效比超过了同等算力的英伟达GPU，能效比应该至少提升30%，也有说更高的。为啥TPU强？除了TPU是更有针对性的ASIC之外，TPU为大规模并行计算做了硬件的优化(光互联)和软件的优化(JAX/XLA)，从理论上就优于更加考虑通用性和兼容性的GPU。 2. Google的TPU也拥有一个虽然规模小很多，但是完整的软硬件生态，就是JAX/XLA/TPU，类似于英伟达的Pytorch/CUDA/GPU。如果说英伟达的生态是PC/Windows组合的话，Google就是Mac/MacOS组合。英伟达是大众普及型，兼容性好，市占率高；而Google是小众的，兼容性差，专业用户心头好。只有那些极致追求性能，并且需要超大规模训练和推理的厂商有必要使用JAX/XLA/TPU，其他人其实没啥必要，得不偿失。当然Mac机也可以跑Windows，PC机也可以装MacOS，所以马斯克的xAI虽然使用英伟达的H100 GPU，但用的是JAX，为了追求极致的压榨性能。 3. 想要自研AI芯片的，你得能搞出来一整套JAX/XLA/TPU来。Google搞TPU和Tensorflow/JAX有好多年历史了。其他想要复制Google自研芯片的，无论是AMZN，MSFT，META，我的判断是：没戏！因为你不是找AVGO设计ASIC芯片那么简单的事情，你要配合设计XLA编译器，设计JAX这样的并行计算框架，现有的软件还要适配和兼容，那就不是两三年可以搞定的。更何况AMZN，MSFT，META自己训练模型都没搞出来啥成果，你还搞更底层的？不配啊！所以结论：Google的成功不可复制。 4. Google会不会卖TPU，冲击英伟达的主营业务？从逻辑上来说基本不可能。因为TPU只有在超大规模训练和推理上有明显优势，但兼容性差，会JAX的程序员也少，编程门槛还很高。因此TPU在非大型客户市场，根本不具备竞争力。而大型的潜在客户无非就是那几个：OpenAI，Anthropic，AMZN，MSFT，META，xAI，Oracle。不是大模型厂商，就是云厂商。 OpenAI是Google的模型直接竞争对手，AMZN和MSFT是Google的云市场直接竞争对手，你说Google会不会资敌？我说不会。而xAI呢，马斯克和OpenAI，Google都是死敌。 Anthropic倒是Google投资的，所以Anthropic租用Google云的TPU训练Claude模型。而META现在求着Google想买TPU，这两家竞争关系不那么强，我猜大概率也不会卖。这么算下来，其实直接卖TPU没多少市场的。所以Google的现在做法就是在云上卖TPU算力，这个就香多了。想追求极致能效比的大规模推理，又不想自己建机房的，用Google云服务不就是最好的吗？ 5. 对英伟达的冲击：有，但是没有那么强。前面说了，Google的成功不可复制。所以其他客户还是会买英伟达。真正减少的市场份额主要是两类： 1. Google自己会减少对英伟达GPU的采购需求； 2. 租用Google云端TPU的厂商，例如Anthropic会减少对英伟达GPU的采购需求；所以英伟达在未来的2-3年内，可能统治力会稍有下降，例如AI算力芯片的市占率从90%缓慢下滑到80%左右。但我认为并不会改变英伟达的商业逻辑。就像苹果Mac电脑的普及，虽然让Windows的市占率从99%下降到了90%。但不改变Windows的垄断格局。最终颠覆Windows的是PC市场饱和了，然后手机市场兴起了。 6. Google确实现在很厉害，非常厉害 1. AI算力上，在超大规模的模型训练和推理方面，拥有了完整的生态闭环：JAX/XLA/TPU，不输英伟达； 2. AI Infra上，Google Cloud虽然市占率不如AMZN和MSFT，但成长速度很快。而且TPU的租赁费用相比GPU还有价格优势； 3. AI模型上，Gemini 3在很多方面完全不输GPT-5.1，甚至有超越，基于云成本优势，Gemini可以提供更便宜的API调用价格，这样反过来还能提供Gemini优势； 4. AI产品上，搜索+AI Mode；知识产品Notebook LM；还有生成式UI这样惊艳的创意。考虑到Google海量的C端用户体量，实际上非常有希望。关键是Google在以上的AI领域形成了一个从硬件、基础设施、模型和产品的完整闭环，还能互相加强。所以我的结论就是：在英伟达已经有不小仓位的情况下，我打算把本来加仓英伟达的钱留给Google了。

#Google TPU #英伟达GPU #AI芯片自研 #JAX/XLA #AI生态

3个月前

当年我也被他坑了很多钱，要不是因为和他算是老熟人真不会去投，所以这人杀熟起来那也是毫不手软的。打那以后我就对所有被动投资免疫了。主动投资也在早期投资上亏过一些小钱，真的是要看人品的，投资就是看人品，人品不行那就是被割韭菜。痛定思痛，现在就只投美股AI大科技，加上头部加密货币。规避因为人品造成的投资损失。

币圈“1011”六倍崩盘：高杠杆爆仓潮，谁在裸泳？· 6476 条信息

#杀熟 #被动投资 #人品 #美股AI大科技 #加密货币

3个月前

我对微信最大的反感，并不是公众号编辑器，而是微信极其封闭的体系，作为中国最大的社交网络，不提供哪怕一点点API接入能力在社交功能上。导致国内无数的公司只能用最低效最愚蠢的方式来维护自己庞大客户群体和微信群，也就是雇佣海量的运营人员，每个运营手里拿n个手机来管理微信群。一个信息化时代，逼着所有人用最原始手工的方式干大规模的活。简直太反生产力进步，反时代进步，太邪恶了。反观Telegram，WhatsApp拥有丰富的API接入方式，特别是WhatsApp现在在海外已经替代了手机，我不用打客服电话，直接WhatsApp发消息就行了，这才是技术进步的方向。也不要说微信一旦放开，就面临海量的机器人，这都是技术可以解决的问题。Telegram，WhatsApp怎么没有被机器人淹没？说到底还是傲慢和懒惰。当然腾讯也不是没有吃到恶果。字节的营收早就超过了腾讯了，并且开始遥遥领先。试想，你早些年就开放出来，基于社交网络形成更加庞大的产品生态和用户服务生态，字节怎么可能撼动你？不过说到底，中国互联网现在最大的问题还不是这些头部形成垄断的巨头，而是创新的环境已经彻底不复存在了。已经不可能再有新的创业公司起来挑战这些不思进取的巨头了。所以，这就是一潭死水了。

#微信封闭 #反生产力 #社交API #创新缺失 #巨头垄断