论文解读 · 2026年10月7日

ALoDLM：按 token 调节循环深度的循环式扩散语言模型

ALoDLM: Adaptively Looped Diffusion Language Models

在扩散语言模型中，只让困难 token 对潜在状态进行更多次迭代精炼，从而同时获得高于同规模自回归模型的平均分数和更快的并行解码。

问题

扩散语言模型（DLM）并行预测多个 token，因此速度快。但其质量低于同规模的自回归（AR）模型。作者认为原因在于“计算-难度失配”：在一个去噪步骤内，简单 token 和困难 token 使用相同深度的计算。基于置信度的解码也会丢弃被推迟 token 的潜在计算，并在下一步从头重新计算。

方法

将 Transformer 分为 Prelude、Recurrent Core、Coda 三部分，并在每个去噪步骤内设置内部循环。预测熵低于阈值的 token 被确定下来，其嵌入被送回上下文。未确定的 token 保持潜在状态，反复通过 Recurrent Core。何时停止内部循环由单独的 ExitGate 头决定。训练时，将每个 token 的退出深度（exit schedule）视为潜变量，推导出条件 NELBO，从而联合优化 token 预测和计算分配。离散的退出决策通过基于 score-function 的无偏梯度估计器和方差缩减技术来学习。在 Qwen3 1.7B、8B 骨干上，使用 50 亿 token 的语料直接进行 SFT。

结果

在推理、数学、编程 11 个基准上的平均分数，1.7B 为 65.5，8B 为 80.3。作者报告称，其高于所有对比的 DLM 以及对应的 Qwen3 AR 基线模型。
在 GSM8K 并行解码中，作者报告 ALoDLM-8B 的吞吐量约为用 vLLM 部署的 Qwen3-8B 的 2.7 倍，准确率相当或更高。
作者分析认为，循环深度可以作为测试时扩展的一个维度。作者还报告称，即使没有显式的难度标签，模型也能学会为不同 token 分配不同的精炼次数。

局限

实验仅限于以 50 亿 token 对 Qwen3 骨干进行 SFT 的 1.7B、8B 规模。从头预训练或更大规模下的效果尚未得到验证。速度对比主要基于 GSM8K，其他任务上的质量-效率权衡需要另行确认。由于用 score-function 估计器学习退出决策，需要方差缩减技术等额外机制。

意义

不回退到 AR 架构，而是通过 token 级自适应计算缩小了 DLM 的质量差距。在 8B 规模上同时展示了高于 AR 模型的平均分数和更快的服务速度，可为判断基于扩散的 LLM 能否实际使用提供参考。

关键术语

扩散语言模型（DLM）: 通过多个步骤还原被掩码的句子来生成文本的模型。一步可以并行预测多个 token，因此速度快。
循环式（递归深度）Transformer: 将同一组层重复应用多次，在不增加参数的情况下加深计算深度的结构。
NELBO: 负证据下界。它是代替难以直接计算的对数似然而最小化的上界目标函数，在这里用于将退出调度作为潜变量处理。
Score-function 估计器: 当存在离散采样这类不可微的选择时，用对数概率的梯度乘以结果代价来估计梯度的方法（REINFORCE）。

原文

作者: Liancheng Fang, Zhuowei Li, Youngeun Kim, Tianchen Zhao, Rajat Koner, Jiaye Wu, Linghan Xu, Xuanbai Chen, 等 · 发布 2026-10-03 · 许可 CC BY-NC-SA 4.0 · 基于全文分析

本解读是 AI 阅读论文后撰写的摘要，请以论文原文为准。