勃勃OC 0 关注者 关注 9小时前 转自GavinSBaker: 我认为 Nvidia 收购 Groq 主要出于两个原因。 1)推理正在拆分为 prefill 和 decode 两个阶段。 在 decode 阶段,对于性能主要由内存带宽决定的工作负载,SRAM 架构具有独特优势。 Rubin CPX、Rubin 以及基于 Groq 衍生出来的假想版本 “Rubin SRAM”,将使 Nvidia 能够通过混搭不同芯片,为每一种工作 前往原网页查看