← 2026年10月14日 简报 · 于韩国时间 00:00 更新时加入
社区消息:NVIDIA将于10月15日发布“Nemotron Bolt 3.5 74B-A9B”,以2比特量化将MoE模型压缩至24GB
发布 2026年10月14日
已核实(事实)
据Reddit r/LocalLLaMA帖子称,NVIDIA将于10月15日发布“Nemotron Bolt 3.5 74B A9B”。该模型为MoE模型,总参数74B、激活参数9B,据称通过量化感知训练(QAT)保持质量,并以2比特量化压缩至24GB。帖子还称,4GB大小的“Nemotron 3.5 Bolt E4B”将于10月23日发布。所收集资料中没有NVIDIA的官方公告。
待核实(说法)
帖子称,该模型比大多数占用相近显存的热门Dense模型更快,性能也高于大多数规模相近的MoE模型。
意义(解读)
若属实,单张24GB消费级GPU即可运行70B级MoE模型。这一案例可用来检验极低比特量化在本地推理中是否已进入实用阶段。
可信度 低 · 待补官方来源
来源
更多关于 NVIDIA
-
NVIDIA首次公开在原子尺度模拟半导体材料与界面的库“cuPotential”(报道)
NVIDIA副总裁蒂莫西·科斯塔(Timothy Costa)在SEMICON West 2026 CEO峰会上首次介绍了新库“cuPotential”,可在原子和分子尺度上模拟半导体材料与界面。他表示,半导体是最迫切需要加速化学计算的领域之一。资料中未说明发布时间和提供方式。
-
NVIDIA介绍利用NeMo Gym提升芯片设计智能体可靠性与工具调用效率的方法
NVIDIA开发者博客介绍了如何利用NeMo Gym提升芯片设计工作流中AI智能体的可靠性和工具调用效率。文章指出,核心问题在于智能体倾向于生成看似合理但实际错误的输出。摘录中没有具体的改进数据。
-
NVIDIA发布“AlphaNIST”研究:仅告知成功与失败的奖励即可让机器人涌现装配技能(社区转述)
Reddit上有人分享了NVIDIA的研究“AlphaNIST: Emergent Assembly Skills from Binary Task Rewards”。从标题看,其内容是用仅告知成功或失败的二元奖励训练的机器人会涌现出装配技能。帖子附有项目页面和arXiv...
-
NVIDIA介绍欧洲城市基于物理AI智能体和数字孪生的城市运营案例
NVIDIA介绍了EMEA地区的城市与当地软件、基础设施和集成合作伙伴利用NVIDIA加速计算构建物理AI智能体和数字孪生的案例。其目的是辅助道路维修时机、能源使用效率优化等城市运营决策。
-
NVIDIA承诺5年内向英国提供2.5亿美元规模算力支持,加强智能体安全领域
NVIDIA在官方博客中介绍英国AI生态系统的应用案例时,提到了一项为期5年、规模2.5亿美元的算力支持承诺,用于加强英国的智能体安全(agentic safety)领域。所收集的摘录在这句话处被截断,因此支持对象机构和具体条件尚未确认。