← 2026年10月12日 简报 · 于韩国时间 20:00 更新时加入
Ai2 开源提升 MoE 训练效率的训练框架“Olmo-core 3”,47B 模型单 GPU 吞吐量提升约 2.7 倍(报道)
已核实(事实)
据 AI Times 报道,艾伦人工智能研究所(Ai2)开源了大语言模型训练框架“Olmo-core 3”。该框架重新设计了原有训练系统,据称在 470 亿(47B)参数规模的 MoE 模型上,单 GPU 吞吐量提升约 2.7 倍。报道称其适用范围可达数万亿参数规模的模型。摘要中没有给出确切发布日期和比较基准(是与旧版本还是与其他框架相比)。
待核实(说法)
Ai2 方面称:47B 参数模型单 GPU 吞吐量提升约 2.7 倍(报道摘要中无比较条件)。
意义(解读)
MoE 已成为训练大模型的主流架构。如果开放框架能大幅提升训练吞吐量,GPU 资源不充裕的研究机构和企业也更容易自行训练大型模型。不过 2.7 倍是与什么相比的结果,仍需查看原文确认。
可信度 中 · 待补官方来源
来源
- 媒体 Ai2, MoE 학습 효율 2.7배 높인 오픈소스 프레임워크 '올모 코어 3' 공개 AI Times(韩国)
更多关于 Ai2
-
Ai2发布“HiRO-ACEv2”:以较低成本进行3km分辨率的极端天气模拟
Ai2在Hugging Face博客上发布了“HiRO-ACEv2”一文。从标题看,这是一个能以3km分辨率、以远低于以往的成本模拟极端天气的模型。由于没有正文摘录,发布形式(是否公开权重等)和性能比较条件无法确认。