英伟达那个超高性价比的个人超算Project DIGITS,只要3000美元,能跑最大200B的模型,比之前的大模型推理设备都便宜多了。 但依然绕不开这个问题:性价比不如开20美元一个月的chatGPT会员。 现阶段需要llama 70B仍然不如GPT 4o,而个人设备还有部署门槛、折腾。一次性支出未来10年的订阅费,不值。
英伟达那个超高性价比的个人超算Project DIGITS,只要3000美元,能跑最大200B的模型,比之前的大模型推理设备都便宜多了。 但依然绕不开这个问题:性价比不如开20美元一个月的chatGPT会员。 现阶段需要llama 70B仍然不如GPT 4o,而个人设备还有部署门槛、折腾。一次性支出未来10年的订阅费,不值。