AI 术语表 · 基础 · 语言模型
SFT
SFT（Supervised Fine-Tuning，监督微调）是指向已完成预训练的语言模型展示由“指令与示范回答”成对组成的示例，进一步训练它按期望的方式作答。这是让聊天机器人以对话形式回答问题的最基础的后训练阶段。
通俗解释 这就像一位读书很多、知识丰富但还不太会答题的新人，由前辈拿出自己写的示范答案集，教他们“要这样回答”。不过，模型与人不同，它更多是模仿答案的形式和模式，而不是深入理解答案的含义。
工作原理
首先收集由人工撰写或审核的“指令—正确答案”示例。模型接收指令后逐个 token 地预测正确答案，与真实答案差距越大，得到的误差（损失）就越大，并据此一点点调整参数。原理与预训练相同，区别在于训练材料不是任意文本，而是“答案已确定的示例”。反复进行这一过程后，模型会学会回答问题的格式、语气以及遵循指令的习惯。
为什么重要
只经过预训练的模型擅长续写文本，但收到问题时，有时不给出答案，而是接连列出类似的问题。SFT 是把这类模型变成遵循用户指令的助手的第一步。通常在 SFT 之后，还会加入 RLHF、DPO 等偏好学习或强化学习，进一步打磨回答质量。要让模型掌握法律、医疗、客服等特定领域的语气和知识时，SFT 也是最先采用的方法。
注意事项
结果在很大程度上取决于数据质量。示例有错误或偏见，模型也会照样学去。由于它是模仿示范答案的方式，遇到示例中没有的情况时，可能给出看似合理但错误的回答，也就是幻觉。如果用范围过窄的数据过度训练，模型原有的通用能力也可能下降；为了降低成本，常与 LoRA 这类只修改部分参数的方法配合使用。
示例
企业把客服记录整理成“客户问题—客服示范回答”的形式，再对公开的开放权重模型进行 SFT，就能做出遵循公司语气和应答规则的客服聊天机器人。本站介绍过的“T-Search：基于 Qwen3.6-35B-A3B 的开放权重多步搜索智能体检索器”等研究中，在以公开模型为基础打造特定任务模型的过程中，也提到了 SFT。
本站出现过的地方
- 论文 Kandinsky 6.0 Video：同步生成视频与音频的基础模型 2026-10-07
- 论文 ALoDLM：按 token 调节循环深度的循环式扩散语言模型 2026-10-07
- 简报 T-Search：基于 Qwen3.6-35B-A3B 的开放权重多步搜索智能体检索器 2026-10-06