AI 术语表 · 基础 · 语言模型
微调
微调是对已经过广泛训练的 AI 模型进行少量追加训练，使其适应特定领域或任务。
通俗解释 这类似于给完成通用培训的新员工另行培训公司的工作方式和专业术语。与从零培养一个人相比，能以快得多、低得多的成本让其胜任实际工作。
工作原理
首先准备一个用海量数据训练好的“基础模型”。再输入目标领域的数据，例如法律文件、客服记录、问题与标准答案对，进行追加训练。这样，模型的参数会被逐步调整，从而更好地遵循该领域的语气、知识和格式。只修改部分参数而非全部参数以降低成本的方法也被广泛使用。
为什么重要
从零构建模型需要海量的数据和计算资源。通过微调，可以在保留现有模型能力的同时，用较少的资源使其适应目标用途。这是企业构建专门针对自身业务的 AI 时常用的方法。
注意事项
要反映最新信息或经常变化的资料，RAG 往往比微调更合适。不少评价认为，微调更适合让模型掌握语气、格式和特定的工作方式，而不是向模型注入知识。此外，如果用过窄的数据过度训练，模型原本擅长的其他能力也可能下降。
示例
开发客服聊天机器人的公司可以不直接使用通用 LLM，而是用自家的客服记录和应答指南进行微调，让模型按照公司的语气和政策作答。开放权重模型受欢迎的原因之一，也正是这样便于自行微调。