#模型推理设备

高级分析师

5个月前

英伟达那个超高性价比的个人超算Project DIGITS，只要3000美元，能跑最大200B的模型，比之前的大模型推理设备都便宜多了。但依然绕不开这个问题：性价比不如开20美元一个月的chatGPT会员。现阶段需要llama 70B仍然不如GPT 4o，而个人设备还有部署门槛、折腾。一次性支出未来10年的订阅费，不值。

#英伟达 #个人超算 #Project DIGITS #性价比 #模型推理设备 #llama 70B #GPT 4 #订阅费