#持续计算

3小时前

黄仁勋（Jensen Huang）解释 AI 与传统软件的区别，以及为何 AI 没有泡沫传统软件是预编译的，也就是说，它是一次性构建、存储，然后可以反复执行，几乎不需要持续计算。开发完成后，它不需要高性能处理器持续运行。用户只是将完成的程序当作工具来使用。 AI 则完全不同，它是实时生成的。它必须在使用的瞬间处理上下文、进行推理，并即时产生智能——不是提前准备好的。这意味着每一次请求都需要持续计算。正因如此，AI 系统依赖持续的 GPU 算力来“制造”输出，就像工厂生产 token 一样。因此，AI 不是静态的软件工具，而是一个活跃的计算过程，需要大规模、常开的基础设施来动态创造智能。

英伟达市值突破5万亿，科技巨头再创历史· 24 条信息

#黄仁勋 #AI #GPU #实时生成 #持续计算