← 2026年10月7日 简报

P2 开源 全面开放 vLLM

vLLM v0.31.0 发布,重点优化 DeepSeek-V4.1-Flash 推理性能

发布 2026年10月6日

已核实(事实)

vLLM v0.31.0 包含来自 307 名贡献者(其中 96 名为新贡献者)的 717 个提交。主要变更是 DeepSeek-V4.1-Flash 的性能改进:在 SM100 上默认启用使用 V4.1 NVFP4 压缩 KV 缓存的 FlashMLA mega attention。此外还加入了用于索引器的 DeepGEMM sparse MQA logits,以及将门控 GEMM 与专家选择合并的 Mega-Gate 等内核融合。

意义(解读)

在 Blackwell(SM100)环境中部署 DeepSeek 系列模型的团队,只需升级即可期待性能提升。资料中未给出实际提升幅度。

来源

更多关于 vLLM