2025-04-14 20:41:16
DeepSeek 推出了 FlashMLA,这是一款专为 Hopper GPU 设计的新解码内核,标志着其开源周的开始。FlashMLA 旨在提高 AI 模型的效率,支持 BF16,采用 64 块大小的分页 KV 缓存,并在 H800 GPU 上实现 3000 GB/s 的内存带宽和 580 TFLOPS 的高性能。 该内核针对可变长度序列进行了优化,大幅降低计算需求,同时提升 AI 任务的速度和效率
2025-04-14 20:41:16
2025-04-14 17:42:40
2025-04-13 21:59:13
2025-04-13 12:16:54
2025-04-13 07:26:45
2025-04-12 22:02:09