딥페이크 Deepfake
딥페이크는 AI로 실제 사람의 얼굴, 목소리, 행동을 진짜처럼 합성하거나 바꿔치기한 이미지·영상·음성이다. 딥러닝(deep learning)과 가짜(fake)를 합친 말이다.
어떻게 작동하나
AI 모델이 특정 인물의 사진이나 음성을 많이 보고 들으며 그 사람의 생김새와 말투의 특징을 익힙니다. 그런 다음 다른 영상의 얼굴을 그 사람 얼굴로 바꾸거나, 아무 문장이나 그 사람 목소리로 읽게 만듭니다. 초기에는 GAN 같은 생성 모델이 주로 쓰였고, 지금은 디퓨전 모델과 TTS(음성 합성) 기술 발전으로 품질이 훨씬 좋아졌습니다. 예전보다 적은 자료로도 그럴듯한 결과를 만들 수 있게 된 것이 큰 변화입니다.
왜 중요한가
딥페이크는 영화 제작, 더빙, 목소리를 잃은 사람의 음성 복원처럼 유용하게 쓰일 수 있습니다. 하지만 가족이나 임원의 목소리를 흉내 낸 송금 사기, 동의 없는 성적 합성물, 정치인의 가짜 발언 영상처럼 심각한 피해도 낳습니다. 무엇보다 '보고 들은 것을 믿을 수 있는가'라는 사회적 신뢰를 흔든다는 점에서 문제가 됩니다. 진짜 영상조차 딥페이크라고 우기며 부정할 수 있게 되는 부작용도 있습니다.
알아 둘 점
딥페이크를 가려내는 탐지 기술도 발전하지만, 생성 기술과 쫓고 쫓기는 관계라 완벽한 탐지는 어렵습니다. 그래서 탐지와 함께 AI 워터마크나 콘텐츠 출처 증명처럼 '처음부터 진짜임을 표시하는' 방법이 함께 연구되고 있습니다. 개인 차원에서는 급한 송금 요청 같은 의심스러운 연락을 받으면 다른 경로로 다시 확인하는 습관이 가장 현실적인 방어입니다. 여러 나라에서 동의 없는 딥페이크 제작·유포를 처벌하거나 AI 생성물 표시를 의무화하는 규제를 마련하고 있습니다.
예시
영상 통화 회의에서 회사 임원의 얼굴과 목소리를 흉내 낸 딥페이크로 직원에게 송금을 지시하는 사기 수법이 알려지면서, 많은 기업이 금액이 큰 송금은 영상·음성 지시만으로 처리하지 않고 별도 절차로 다시 확인하도록 규칙을 바꾸고 있습니다. 반대로 영상 제작 업계에서는 배우의 동의를 받아 다른 언어로 입 모양까지 맞춰 더빙하는 데 같은 기술을 쓰기도 합니다.