相关新闻

placeholder

背包健客

2天前

10本期刊被标记「On Hold」，中国医学领域成重灾区

placeholder

plantegg

3天前

田春冰河，江湖人称伞哥，华人编程界的四大魔道天王之一 早年在网易做程序员，经常和丁磊互怼，也是云风的同事。后来不想做程序员了，于是转学术，去意大利读博士，做形式化证明。 然后去 ANU做博士后，继续他的学术生涯。 但是2025年，因为在微博上的言论被粉丝举报到学校种族歧视、女性歧视(处心积虑翻译成英文举报)，失去了工作。于是回到沈阳老家的小城市，继续他的学术证明。 一个理想主义者，在社交网

placeholder

ariel reyez romero

4天前

google今天这篇2025年4月的论文居然引发了存储的下跌，那我们就再重读一下： KV cache 一直是大模型推理里的最大内存消耗来源。论文的做法，本质是用信息论最优的方式去压缩这些数据。不是简单地降低精度，而是重新分配信息密度。普通部分用极低比特表示，异常值单独保留更高精度。同时不再逐元素处理，而是以向量为单位编码，因为 attention 本身就是内积结构。 关键的是，它的误差已经贴近

placeholder

日常焦虑帝

1周前

苏神博客上的配图比论文里的清楚多了... 连线有颜色区分，一看就知道，论文里的单色混在一起。

placeholder

小牛OTC

3个月前

俄罗斯12月1日正式对中国公民免签，普京已经签字了。 你们去吗？