AI 术语表 · 基础 · AI 安全 · AI 平台与解决方案
AI 供应链安全
AI 供应链安全是指确认并保护构建 AI 系统所用的外部材料（数据集、预训练模型、库、插件等）未被污染或篡改的活动。
关于这个术语
- 难度
- 基础 · AI 新闻中常见的技术术语
- 分类
- 安全与对齐
- 领域
- AI 安全, AI 平台与解决方案
- 加入时间
- 2026-10-09
通俗解释 餐厅再干净，如果进货的食材已经变质，做出的菜也会出问题。AI 供应链安全类似于食材验收，要查明“材料从哪里来、中途有谁动过”。
如何运作
如今的 AI 服务很少完全从零自行构建。通常是从公开仓库下载模型权重，用他人制作的数据集进行微调，再接入开源库和 MCP 服务器等工具来完成。供应链安全的做法是在每个环节确认来源，通过签名和哈希验证文件是否与原件一致，并检查是否存在已知漏洞。以清单形式记录所用组件的 AI BOM 也是这项活动的一部分。
供应链检查项目
来源
- 是否从官方发布渠道获取
- 是否已通过签名和哈希确认与原件一致
内容
- 训练数据中是否没有被篡改的样本
- 库中是否没有已知漏洞
记录与隔离
- 是否已将所用材料记录到 AI BOM 中
- 是否已先在沙箱中测试
为什么重要
对攻击者来说，与其直接攻破成品服务，往往更容易的是在该服务所使用的材料中偷偷埋下问题。例如，在训练数据中混入被篡改样本的数据投毒，只对特定信号产生异常反应的隐藏后门，以及一加载就会执行恶意代码的模型文件等。一旦某种材料被污染，就可能扩散到使用它的众多服务中，影响范围很广。
需要了解的要点
与普通软件不同，模型很难通过读取内部来发现问题。隐藏在数十亿个数字（参数）中的后门，很难通过代码检查发现。因此需要同时采用多层防御，如来源管理、在隔离环境（沙箱）中测试、红队评估等。目标不是完全阻断，而是达到“清楚知道从哪里引入了什么，出现问题时能迅速追溯”的状态。
示例
假设一家公司从公开模型中心下载开放权重模型来构建内部聊天机器人。安全团队不会直接使用该模型，而是先确认文件是否来自官方发布渠道，要求使用安全的文件格式，而不是可能夹带可执行代码的格式，并检查配套使用的库是否存在漏洞。之后接入的插件或 MCP 服务器也按同样流程验收并记录到清单中。