#ktransformer

新的希望

4个月前

清华团队ktransformer项目，可以把DeepSeek的推理成本急剧降低，4090单卡就能跑满血版DeepSeek-R1，相当于把【GPU】的一部分运算挪到【CPU+内存】上。如果这个方案迅速落地，就能把原本需要至少200万元才能享受的服务，现在20万元绰绰有余。说明AI逐渐平民化，另外内存的股票可以先找起来。

#ktransformer #DeepSeek #GPU #CPU #AI平民化 #内存 #清华团队 #科技创新