Inty News
2小时前
库克忆乔布斯临终交班:"永远别问我会怎么做,只做对的事"
乌克兰战争•最新进展🇺🇦
11小时前
#战事简报 乌克兰士兵正在前往前线。别忘了祝他们胜利和安全🙏
ariel reyez romero
11小时前
google今天这篇2025年4月的论文居然引发了存储的下跌,那我们就再重读一下: KV cache 一直是大模型推理里的最大内存消耗来源。论文的做法,本质是用信息论最优的方式去压缩这些数据。不是简单地降低精度,而是重新分配信息密度。普通部分用极低比特表示,异常值单独保留更高精度。同时不再逐元素处理,而是以向量为单位编码,因为 attention 本身就是内积结构。 关键的是,它的误差已经贴近