AI 术语表 · 基础 · 经典机器学习、推荐与搜索 · 数据与评测
数据泄露
数据泄露是指在训练模型时，把实际使用时无法获得的信息，尤其是测试数据或正确答案的线索，混入训练过程的失误。这样一来，评估分数虽然很高，但在实际服务中性能会大幅下降。
关于这个术语
- 难度
- 基础 · AI 新闻中常见的技术术语
- 分类
- 数据、运维与平台
- 加入时间
- 2026-10-09
工作原理
在机器学习中，会把数据分成训练集和评估集，再用模型从未见过的评估数据来衡量其能力。但如果评估数据混入了训练，或者输入中包含了几乎等同于正确答案的列（特征），模型就会记住这条“捷径”，而不是真正的规律。例如，在预测患者是否患病时把“是否开具治疗药物”作为输入，就相当于提前看到了诊断完成之后的信息。如果预处理顺序弄错，例如先用全部数据计算均值或范围进行归一化再划分数据，评估数据的信息也会一点点渗入。
为什么重要
数据泄露会在没有任何错误信息的情况下悄然发生，因此很难发现。由于分数反而非常好，团队会相信模型构建得很好，甚至将其部署上线。而在实际环境中没有那条捷径信息，性能会突然崩溃，直到那时才花费时间和成本去查找原因。因此，“好得过分的分数”被视为首先应当怀疑、而不是庆祝的信号。
注意事项
对于有时间顺序的数据，不要随机打乱后划分，而应使用过去的数据训练、用未来的数据评估。同样重要的是分组划分，确保来自同一个人或同一份文档的数据不会同时出现在训练集和评估集中。预处理的基准只在训练数据上计算，再应用到评估数据上。在 LLM 中，基准测试题目混入训练数据的情况被专门称为“数据污染”，从广义上看属于同类问题。
防止泄露检查清单
数据划分
- 时间序列数据是否用过去训练、用未来评估
- 同一个人或文档是否混入了两侧
输入与预处理
- 是否加入了预测时点无法获得的列
- 归一化基准是否只在训练数据上计算
结果解读
- 分数是否好得过分
示例
假设一家购物网站要构建预测“这位客户下个月是否会流失”的模型。如果输入中误加入了“会员注销处理日期”这样的列，模型在评估中几乎能完美预测，但在需要提前找出尚未注销客户的实际服务中却毫无用处。实践中，会逐一检查每个输入列“在预测时点是否真的能获得”，以此防止这类泄露。