AI Trend Research
CH

← 2026年10月15日 简报 · 于韩国时间 04:00 更新时加入

P2 模型 开放权重 语言模型效率与基础设施多模态后续04:00 更新NVIDIAOllamaHugging Face

NVIDIA正式发布Nemotron 3.5 Bolt 74B-A9B（24GB）与E4B（4GB），Ollama即日支持

发布 2026年10月15日

已核实（事实）

此前预告的本地模型“Nemotron 3.5 Bolt 74B-A9B 24GB”与Super VL一同正式发布，同时新增面向4GB内存的“Nemotron 3.5 Bolt E4B 4GB”。Hugging Face上已上传Bolt 74B-A9B的GGUF版本以及用于LiLiCorr投机解码的变体。74B-A9B是一款视觉语言模型，默认采用2位量化，可装入24GB内存。Ollama v0.40.5支持Nemotron 3.5 Super（120B混合Mamba-2/Transformer MoE，激活12B，C-RADIO视觉编码器，最长100万token，Thinking模式可开可关）。据Ollama介绍，Bolt是由Super蒸馏而来的模型，并借助随附的草稿模型（drafter）进行投机解码。

待核实（说法）

NVIDIA称Bolt 74B-A9B“比大多数内存占用相近的热门MoE模型更聪明，同时比大多数热门稠密（dense）模型更快”。

意义（解读）

可在单张24GB消费级GPU上运行的智能体用视觉语言模型，在发布当天即被Ollama等本地运行工具支持，本地智能体配置的选择范围随之扩大。不过，2位量化下的实际质量需要自行验证。

来源

资讯脉络

  1. 2026-10-14 社区消息：NVIDIA将于10月15日发布“Nemotron Bolt 3.5 74B-A9B”，以2比特量化将MoE模型压缩至24GB
  2. 2026-10-15 NVIDIA正式发布Nemotron 3.5 Bolt 74B-A9B（24GB）与E4B（4GB），Ollama即日支持

更多关于 NVIDIA