AI 术语表 · 基础 · AI 安全 · 生成式媒体 · 媒体
内容来源证明
内容来源证明是给照片、视频、文字等数字内容记录“由谁、用什么工具制作、做过哪些修改”，并能通过电子签名确认该记录未被篡改。代表性标准是 C2PA，用这一标准附加的记录通常称为“内容凭证（Content Credentials）”。
工作原理
相机、编辑软件、生成式 AI 工具在制作或修改内容时，会一并生成名为“清单（manifest）”的记录。其中包含制作工具、是否由 AI 生成、做过哪些编辑等信息。制作方把这份记录和内容的指纹（哈希值）绑定在一起进行电子签名。之后如果有人偷偷修改内容或记录，签名验证就会失败，从而能发现篡改。每次编辑都会在之前的记录上接上新记录，履历像链条一样累积。
为什么重要
生成式 AI 让人能轻松做出以假乱真的图片和视频，观看者越来越难判断内容的来源。来源证明不是去找出“这是假的”，而是证明“这来自这个来源”，因此媒体、企业和创作者可以用它来维护自身内容的可信度。它也与要求标明 AI 生成内容的监管趋势相呼应，平台和工具公司正在扩大采用。
注意事项
记录是附加在文件上的元数据，截图或上传到会清除元数据的平台后很容易消失。因此它常与在内容本身中嵌入不可见信号的 AI 水印一起使用。此外，签名只保证“是谁做的记录”，并不保证内容是否属实。在目前大多数内容都没有记录的情况下，不能把“没有记录”理解为“是假的”。
来源证明与 AI 水印
内容来源证明在文件上附加签名记录
- 详细记录制作工具·编辑履历
- 通过签名确认是否被篡改
- 删除元数据后即消失
AI 水印在内容本身中嵌入信号
- 截图·重新上传后也较易保留
- 能承载的信息较少
- 遇到较强的变换可能被抹除
공통 两者都是用来说明内容从何而来的机制
示例
图像生成服务在输出结果上附加“由 AI 生成”的 C2PA 记录后，支持该标准的社交平台或查看器会在图片旁显示一个小标识，点击后可看到制作工具和编辑履历。一些媒体会在记者拍摄的新闻照片上附加拍摄设备和编辑记录，让读者可以直接确认原始来源。