勃勃OC

勃勃OC

0 关注者

9小时前

转自GavinSBaker: 我认为 Nvidia 收购 Groq 主要出于两个原因。 1)推理正在拆分为 prefill 和 decode 两个阶段。 在 decode 阶段,对于性能主要由内存带宽决定的工作负载,SRAM 架构具有独特优势。 Rubin CPX、Rubin 以及基于 Groq 衍生出来的假想版本 “Rubin SRAM”,将使 Nvidia 能够通过混搭不同芯片,为每一种工作

热门新闻