#Token泡沫

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

1天前

Token泡沫的能量成本视角解释：如果当前的LLM或者视觉生成模型不解决符号接地问题，不找到可以cover能源成本的实际生产价值场景，在in-silicon空转的话，破灭是迟早的事。算力是个好生意吗？只有卖芯片的，NIVDIA类似于互联网刚兴起时的cisco。而token生产公司类似于.com门户，基于token的再加工创业公司就是token内容的再生产。只有和产业生产结合产生实质效率提升价值才算是符号接地，否则像生产屎山代码、写八股PPT，这些都是无效内卷，都是加速泡沫破灭。 ————————— ICL和IWL的能量对⽐（粗略估算） ICL（单次查询）： • 前向传播：~1e-3 kWh • 总计：~1e-3 kWh IWL（完整训练GPT-3级别）： • 训练时间：~1个⽉ • GPU功耗：~1000 kW • 总计：~720,000 kWh ⽐率：~7亿倍差距 - 系统2（IWL）：慢，但稳定，⾼能耗摊销 - 系统1（ICL）：快，但临时，低能耗

#Token泡沫 #能源成本 #LLM #算力 #产业结合