← 全部企业

开放模型

vLLM

vLLM is an open-source framework for LLM inference and serving, originally developed at UC Berkeley.

资讯：2 · 最新在前

2026年10月14日

• P2 开源 开放权重 多模态语言模型AI 平台与解决方案 vLLMCloudflare
  vLLM Semantic Router 团队开源可直接分析图像的多模态决策模型 Decision 3.0（报道）

  vLLM Semantic Router 开发团队开源了多模态决策模型系列 Decision 3.0，不仅能处理文本和 JSON，还能直接分析图像。AI Times 在标题中称 Cloudflare 也一同发布了开源模型，但摘录中没有 Cloudflare 方面的具体内容。

2026年10月7日

• P2 开源 全面开放 vLLM
  vLLM v0.31.0 发布，重点优化 DeepSeek-V4.1-Flash 推理性能

  vLLM v0.31.0 包含来自 307 名贡献者（其中 96 名为新贡献者）的 717 个提交。主要变更是 DeepSeek-V4.1-Flash 的性能改进：在 SM100 上默认启用使用 V4.1 NVFP4 压缩 KV 缓存的 FlashMLA mega...