Li Xiangyu 香鱼🐬
0 关注者
猫神
2天前
星期五的下午17:15，猫神还没有吃饭🍚，等着发工资去吃碗麻辣烫，饿的肚子咕咕叫😂 所有的老板都是奸商，不管是世界首富还是开面馆的，你同意吗？😂 😂
ariel reyez romero
4天前
google今天这篇2025年4月的论文居然引发了存储的下跌，那我们就再重读一下： KV cache 一直是大模型推理里的最大内存消耗来源。论文的做法，本质是用信息论最优的方式去压缩这些数据。不是简单地降低精度，而是重新分配信息密度。普通部分用极低比特表示，异常值单独保留更高精度。同时不再逐元素处理，而是以向量为单位编码，因为 attention 本身就是内积结构。 关键的是，它的误差已经贴近
日常焦虑帝
1周前
苏神博客上的配图比论文里的清楚多了... 连线有颜色区分，一看就知道，论文里的单色混在一起。
海外爆料
2周前
🔥 只有善良的人才會同情淳樸的農民，這老板有格局‼️👍
後知後覺
偶遇前女友，老板给撑场面！
