← 2026年10月13日 简报

NVIDIA发布“ReplaySSM”:加速SSM与注意力混合模型解码的状态存储方式

发布 2026年10月12日

已核实(事实)

NVIDIA在开发者博客中介绍了ReplaySSM,它重新设计了状态存储方式以加速混合模型解码。混合模型是在状态空间模型(SSM)层之间插入少量注意力层的结构。文章举出NVIDIA Nemotron 3、Qwen3.5~Qwen3.8、Kimi-K3、GLM-5.3-Flash作为混合模型的例子。输入资料中未能确认性能数据及是否公开代码。

待核实(说法)

称通过改变状态存储方式,使混合模型的解码更快。

意义(解读)

主要开源模型正转向混合架构,SSM状态管理正成为推理服务的新瓶颈和优化对象。

来源

更多关于 NVIDIA