← AI 용어집

AI 용어집 · 기초 · AI 보안 · 생성형 미디어

콘텐츠 출처 증명 Content Provenance, C2PA

콘텐츠 출처 증명은 사진·영상·글 같은 디지털 콘텐츠에 '누가, 어떤 도구로 만들고 어떻게 고쳤는지'를 기록하고, 그 기록이 바뀌지 않았음을 전자 서명으로 확인할 수 있게 하는 것이다. 대표 표준이 C2PA이며, 이 표준으로 붙인 기록을 흔히 '콘텐츠 자격 증명(Content Credentials)'이라 부른다.

쉽게 말하면 미술품에 따라붙는 감정서와 소장 이력서 같은 것이다. 다만 감정서를 떼어 내고 그림만 유통시키면 이력은 사라지므로, 기록이 없다고 해서 가짜라는 뜻은 아니다.

어떻게 작동하나

카메라·편집 프로그램·생성형 AI 도구가 콘텐츠를 만들거나 고칠 때 '매니페스트'라는 기록을 함께 만든다. 여기에는 만든 도구, AI 생성 여부, 어떤 편집을 했는지 같은 정보가 담긴다. 이 기록과 콘텐츠의 지문(해시값)을 묶어 만든 쪽이 전자 서명을 한다. 나중에 누군가 내용이나 기록을 몰래 바꾸면 서명 검증이 실패하므로 변조를 알아챌 수 있다. 편집이 거듭되면 이전 기록 위에 새 기록이 이어 붙어 이력이 사슬처럼 쌓인다.

출처 기록이 쌓이고 검증되는 흐름콘텐츠 생성 → 매니페스트 서명; 매니페스트 서명 → 편집; 편집 → 배포·공유; 배포·공유 → 서명 검증; 서명 검증 → 출처·이력 표시(통과); 배포·공유 → 기록 제거 시콘텐츠 생성카메라·AI 도구매니페스트 서명도구·AI 여부·해시편집새 기록 이어 붙임배포·공유서명 검증뷰어·플랫폼출처·이력 표시기록 제거 시스크린샷 등이력 사라짐통과
출처 기록이 쌓이고 검증되는 흐름 만들 때와 고칠 때마다 서명된 기록이 이어 붙고, 보는 쪽은 서명으로 변조 여부를 확인한다.

왜 중요한가

생성형 AI로 진짜 같은 이미지와 영상을 쉽게 만들 수 있게 되면서, 보는 사람이 콘텐츠의 출처를 판단하기 어려워졌다. 출처 증명은 '이건 가짜다'를 찾아내는 대신 '이건 이 출처에서 왔다'를 증명하는 방식이라, 언론사·기업·창작자가 자기 콘텐츠의 신뢰를 지키는 데 쓸 수 있다. AI 생성물임을 밝히라는 규제 흐름과도 맞물려 있어 플랫폼과 도구 회사들이 도입을 넓히고 있다.

알아 둘 점

기록은 파일에 붙은 메타데이터라서 스크린샷을 찍거나 메타데이터를 지우는 플랫폼에 올리면 쉽게 사라진다. 그래서 눈에 보이지 않게 콘텐츠 자체에 신호를 심는 AI 워터마크와 함께 쓰는 경우가 많다. 또 서명은 '누가 기록했는가'를 보증할 뿐, 그 내용이 사실인지까지 보증하지는 않는다. 기록이 없는 콘텐츠가 대부분인 지금은 '기록 없음'을 '가짜'로 읽으면 안 된다.

출처 증명과 AI 워터마크

콘텐츠 출처 증명파일에 서명된 기록을 붙임

  • 만든 도구·편집 이력을 자세히 담음
  • 변조 여부를 서명으로 확인
  • 메타데이터를 지우면 사라짐

AI 워터마크콘텐츠 자체에 신호를 심음

  • 스크린샷·재업로드에도 남기 쉬움
  • 담을 수 있는 정보가 적음
  • 강한 변형에는 지워질 수 있음

공통 둘 다 콘텐츠가 어디서 왔는지 알려 주려는 장치

두 방법은 경쟁이 아니라 서로의 약점을 메우는 관계다.

예시

이미지 생성 서비스가 결과물에 'AI로 생성됨'이라는 C2PA 기록을 붙여 내보내면, 이를 지원하는 SNS나 뷰어는 이미지 옆에 작은 표시를 띄우고 눌렀을 때 만든 도구와 편집 이력을 보여 준다. 일부 언론사는 기자가 찍은 보도 사진에 촬영 장비와 편집 내역 기록을 붙여, 독자가 원본 출처를 직접 확인할 수 있게 한다.

함께 보면 좋은 용어