深度伪造
深度伪造（Deepfake）是用 AI 把真人的面孔、声音、动作合成得以假乱真或进行替换的图像、视频和音频。这个词由深度学习（deep learning）和伪造（fake）组合而成。
通俗解释 这类似于由计算机代劳的高超模仿和化装。不同之处在于，与人的模仿不同，任何人都能在短时间内大量制作。
工作原理
AI模型通过大量观看和聆听某个特定人物的照片或声音，学习此人的外貌和说话方式的特征。然后，它可以把其他视频中的人脸换成此人的脸，或让任意句子以此人的声音读出来。早期主要使用GAN等生成模型，如今随着扩散模型和TTS（语音合成）技术的发展，质量已大幅提升。一个重大变化是，现在用比以前更少的素材也能做出以假乱真的结果。
为什么重要
深度伪造可以用于电影制作、配音、为失去声音的人恢复语音等有益用途。但它也会造成严重危害，例如模仿家人或高管声音的转账诈骗、未经同意的色情合成内容，以及政治人物的虚假发言视频。最重要的问题在于，它动摇了“看到和听到的东西是否可信”这一社会信任。还有一个副作用：人们甚至可以声称真实视频是深度伪造，从而否认它。
须知要点
识别深度伪造的检测技术也在进步，但它与生成技术是你追我赶的关系，因此很难做到完美检测。所以，除了检测之外，AI水印、内容来源证明等“从一开始就标明真实性”的方法也在同步研究。就个人而言，收到紧急转账请求等可疑联系时，通过其他渠道再次确认的习惯是最现实的防御方法。许多国家正在制定法规，对未经同意制作、传播深度伪造的行为予以处罚，或强制要求标注AI生成内容。
示例
随着在视频会议中利用深度伪造模仿公司高管的面孔和声音、指示员工转账的诈骗手法被曝光，许多企业正在修改规定，大额转账不再仅凭视频或语音指示处理，而是通过单独的流程再次确认。反过来，视频制作行业也会在征得演员同意后，用同样的技术进行连口型都对得上的其他语言配音。