检查点

工作原理

训练是经过大量步骤（step）、一点点修改权重的过程，因此每隔一定间隔就保存一次当时的状态。用于继续训练的检查点不仅包含权重，还包含优化器状态、学习率调度、当前步数等信息。所以即使因设备故障导致训练中断，也不必从头开始，而是从最后一个检查点恢复。训练结束后，有时还会评估多个检查点，选出最好的作为最终模型。

在哪里会遇到

运行训练代码时，会不断生成带步数编号的文件夹，例如 checkpoint-1000。在 Hugging Face 上，人们常把发布的模型本身称为“检查点”，有时也会通过仓库的分支或修订版本（revision）一并公开训练中间时刻的模型。行业新闻中说“内部检查点”，多半指尚未公开、仍在开发中的模型版本。图像生成社区也把下载的模型文件称为检查点。

注意事项

用于恢复训练的检查点包含优化器状态，可能比只含权重的文件大好几倍，因此需要规划存储空间。服务只需要权重，所以部署时会另外导出轻量文件。最后一个检查点并不总是最好的，过拟合开始之前的时刻可能更好。即使模型名称相同，检查点（修订版本）不同，结果也会不同，因此在生产环境中最好固定所用的修订版本。

示例

本站曾介绍过 Google 正在测试下一代模型内部检查点的报道，这里的检查点指开发过程中某一时刻的模型版本。在实际工作中，团队在进行内部微调时会保存多个步骤的检查点，挑选评估分数最高的一个，只导出 safetensors 权重后部署到服务上。

本站出现过的地方

• 简报 Google 正在测试“Gemini 4 Argon”的后续内部检查点“Carbon”……“达到 Opus 5.5 水平”（报道） 2026-10-10
• 简报 Qwen 发布开放权重模型“Qwen-Image-2.1-Turbo”，8 步即可生成和编辑图像（社区消息） 2026-10-09
• 论文 Long-WAM：扩展 World-Action 模型的上下文 2026-10-09

相关术语

预训练 微调 safetensors 过拟合 实验跟踪 模型注册表