有团队将智谱 #GLM5 模型从 1.65TB 压缩到 241GB，只需要 256GB 总内存 (内存 + 显存总和) 即可在本地跑模型。可选硬件组合包括 256GB 统一内存的 Mac 设备，或者 24GB 显存 GPU+256GB 内存的 PC，如果要跑动态 8 位版则需要 1TB 内存的顶级工作站，有兴趣的大佬可以试试：