← 2026年10月6日 简报

P1 研究 论文 arXiv

研究:仅固定回答的起始token,基座模型的推理性能就接近RL模型水平

发布 2026年10月5日

已核实(事实)

该论文分析了训练数据如何把基座模型回答的起始token与其后的推理行为关联起来。固定特定的起始token提示后,基座模型的数学和编程性能可与经RL训练的模型相当。例如,'.\n\nOkay'提示将Olmo-3-7B的MATH-500 pass@1从42%提升至78%,'Alright,'提示将Qwen3-14B从72%提升至87%。论文还报告称,RL会提高这类提示出现的概率,而固定提示可以找回RL性能提升中的相当一部分。

意义(解读)

这支持一种解读:RL带来的推理提升,很大程度上来自激发基座模型中已有的行为。这对如何评估后训练效果有启示。

来源

更多关于 arXiv