주제 탐구 · 2026-11-19 · 심화 · 작성자 bombong
모델 지문: 가중치와 출력으로 LLM의 출처 밝히기
모델 지문은 '이 모델이 어디서 왔나'를 가중치·내부 계산·출력 패턴으로 확인하는 기술이다. 미리 표식을 심는 방식과 모델이 원래 가진 특징을 읽는 방식으로 나뉘고, 최근에는 공격에 버티는 힘과 실제 감사 환경에서 생기는 오판이 핵심 쟁점이다.
목차
- 모델 지문은 모델 자체의 출처를 밝히는 기술로, 생성된 글을 추적하는 텍스트 워터마크와 목적이 다르다.
- 능동형 지문은 파인튜닝으로 표식을 심어 넣고, 내재형 지문은 가중치 스펙트럼·층별 계산 궤적처럼 모델이 원래 가진 구조를 읽는다.
- 평범한 변형(파인튜닝·양자화·병합)에 버티는 것과, 지문을 일부러 지우려는 상대에게 버티는 것은 다른 문제다. 연구된 10가지 방식이 적응형 공격에 모두 뚫렸다.
- 최근 연구는 '관련이 있나'를 넘어 '누가 부모인가'라는 방향과, 대화 중간에 모델이 몰래 바뀌는 API 중계 같은 실제 감사 상황을 다룬다.
- 실무에서는 하나의 지문에 기대지 말고 화이트박스·블랙박스 증거를 함께 쓰고, 오탐률을 따로 확인해야 한다.
왜 모델 지문이 필요해졌나
LLM(대규모 언어 모델)은 만드는 데 큰 비용이 들고, 한번 공개되거나 유출되면 누구나 가중치를 고쳐 다시 배포할 수 있다. TrFP 연구논문는 무단으로 손에 넣은 가중치가 쉽게 변형되기 때문에 출처 확인이 어렵다고 짚는다. 오픈웨이트 체크포인트가 공개되고 재사용되는 일이 늘면서, 소유권 보호와 사후 감사를 위한 모델 지문이 중요해졌다는 지적논문도 같은 맥락이다.
여기서 흔히 헷갈리는 것이 텍스트 워터마크와의 차이다. LLM 저작권 보호 서베이논문는 기존 정리가 주로 '모델이 만든 글을 추적하는 기술', 즉 텍스트 워터마크에 쏠려 있었고, 모델 자체를 지키는 기술(모델 워터마크와 모델 지문)은 체계적으로 정리되지 않았다고 지적한다. 이 서베이는 모델 워터마크를 더 넓은 지문 틀 안에 넣어 용어를 통일했다. 이 글도 그 용어를 따른다.
질문의 모양도 여러 가지다. '이 의심 모델이 우리 모델에서 파생됐나'(파생 탐지), '이 학생 모델이 우리 API 출력을 Distill해 만들어졌나'(Distillation 탐지), 'API가 약속한 그 모델이 정말 답하고 있나'(신원 확인)가 각각 다른 질문이다. 접근할 수 있는 정보도 다르다. 가중치를 직접 볼 수 있으면 화이트박스, 질의와 응답만 볼 수 있으면 블랙박스 상황이다.
참고로 이번 자료에는 가중치로 '어떤 하드웨어에서 학습됐는지'를 밝히는 연구가 없다. 그래서 이 글은 출처와 파생 관계를 확인하는 방법만 다룬다.
핵심 아이디어: 심어 둔 표식과 타고난 지문
비유로 보면 두 갈래가 있다. 하나는 물건에 일련번호를 새겨 두는 방식이다. 출고 전에 표식을 심어 두면 나중에 찾기 쉽지만, 표식을 새기는 작업 자체가 물건을 조금 바꾸고 누군가 갈아 없앨 수도 있다. 다른 하나는 사람의 지문이나 홍채처럼 원래부터 가진 특징을 읽는 방식이다. 미리 할 일은 없지만, 비슷한 사람끼리 헷갈리지 않을 만큼 특징이 뚜렷해야 한다.
첫 번째가 능동형 지문이다. 서베이논문와 P2F논문가 설명하듯, 기존 능동형 방식은 파인튜닝으로 신원 신호를 모델에 심는다. 특정 질문(트리거)에 정해진 답을 내도록 학습시키는 백도어 기반 지문이 대표적이다. 정확도와 견고성은 높지만, P2F논문는 신원마다 따로 비싼 학습을 해야 해서 확장성이 떨어진다고 지적한다.
두 번째가 내재형 지문이다. 모델을 고치지 않고 가중치나 내부 계산에서 특징을 뽑는다. TrFP논문는 이 방식이 모델을 수정하거나 소유 정보를 심지 않고도 소유권을 보호할 수 있다고 설명한다. 대신 두 가지 요구가 서로 부딪친다. 가중치를 그대로 비교하는 지문은 모델을 변형하면 쉽게 무너지고(견고성 문제), 내부 표현을 비교하는 지문은 관련 없는 모델끼리도 비슷하다고 판정할 수 있다(고유성 문제).
결국 설계는 '무엇을 미리 바꿀 것인가'와 '무엇에 접근할 수 있는가'에 대한 선택이다. 능동형은 미리 비용을 치르고 블랙박스 검증을 얻는다. 내재형은 미리 할 일이 없는 대신 대체로 가중치나 내부 계산에 접근해야 한다. 출력만 보는 블랙박스 통계 방식은 둘 사이에서 증거가 약해지는 것을 감수한다.
지문을 얻는 세 방식
능동형표식을 심어 두기
- 파인튜닝 등으로 모델을 바꿈
- API 뒤 모델도 질의로 확인
- 신원마다 학습 비용
- 품질 저하·제거 공격 위험
내재형타고난 구조 읽기
- 모델을 바꾸지 않음
- 가중치·내부 계산 접근 필요
- 견고성과 고유성의 맞바꿈
출력 통계형응답만 보고 판정
- 접근 조건이 가장 느슨함
- Distillation 관계 탐지에 활용
- 대화 이력·디코딩 설정에 흔들림
공통 셋 다 마지막에 유사도나 통계 검정으로 출처를 판정한다
어떻게 작동하나
능동형 지문은 세 단계로 작동한다. 먼저 원본 모델에 표식을 심고(파인튜닝, 워터마크 Distillation 등), 그 모델을 배포한 다음, 의심 모델에 질의를 보내 표식이 나타나는지 확인한다. 워터마크 Distillation 방식은 통계적 워터마크 신호를 가중치에 심어서 블랙박스 API 뒤에 있는 모델도 알아볼 수 있게 한다논문. P2F논문는 심는 단계를 바꿨다. 전용 생성기가 신원을 설명하는 글을 받아 한 번의 계산으로 저랭크 파라미터 증분을 만들어 내므로, 신원마다 다시 학습할 필요가 없다.
내재형 지문은 무엇을 읽느냐에 따라 나뉜다. 가중치 스펙트럼 지문논문은 게이트형 피드포워드 층의 GATE 투영 가중치에서 특잇값(행렬이 각 방향으로 얼마나 늘리는지 나타내는 값) 분포를 요약한다. 층별 특징은 깊이 구간별로 묶어서 모델 단위 지문으로 만든다. 층을 하나하나 맞춰 비교하지 않으므로 깊이가 다른 모델끼리도 비교할 수 있다. 입력 샘플, 생성 결과, 순전파 활성값이 하나도 필요 없고 학습도 하지 않는다. TrFP논문는 가중치나 Representation을 직접 비교하는 대신, Representation이 층을 지나며 어떻게 변하는지를 Trajectory로 보고 뉴런 순서를 바꿔도 변하지 않는 요약값으로 지문을 만든다.
멀티모달 모델은 사정이 더 복잡하다. 여러 모델이 같은 언어 백본을 쓰기 때문에 기존 출처 확인 방법이 헷갈리기 쉽다. AttnPrint논문는 이미지와 텍스트 사이의 교차 어텐션 분포에서 저주파 성분만 떼어 지문으로 쓴다. 출력만 볼 수 있는 상황에서는 같은 연구의 DistillTrace가 모델 출력에 가설 검정을 적용해 Distillation 관계의 증거를 찾는다.
어느 방식이든 마지막에는 두 지문의 유사도를 구하고 기준값과 비교해 '같은 계열인가'를 판정한다. 예를 들어 스펙트럼 지문은 선형 CKA(두 표현이 얼마나 닮았는지 재는 지표)로 유사도를 계산한다논문. 이 판정의 오탐을 어떻게 통제할지가 뒤에서 다룰 핵심 쟁점이다.
발전 흐름: 만드는 쪽과 깨는 쪽
2025년 서베이논문는 흩어져 있던 기술을 정리했다. 텍스트 워터마크에서 모델 워터마크와 지문으로 이어지는 개념을 정리했고, 지문 기법들을 분류해 비교했으며, 지문 이전과 제거 기법도 처음으로 정리했다. 평가 지표로는 효과성, 무해성(모델 성능을 해치지 않는가), 견고성, 은닉성, 신뢰성을 제시했다. 이후 연구들은 대체로 이 지표들 가운데 하나를 더 끌어올리는 방향으로 나왔다.
같은 시기 깨는 쪽 연구가 기준을 높였다. '견고한 지문은 적대적으로도 견고한가'논문는 기존 평가가 추가 파인튜닝, 모델 병합, 프롬프트 변경 같은 평범한 변형만 다뤘다고 지적했다. 이 연구는 악의적인 모델 호스트를 가정한 위협 모델을 세웠고, 최근 제안된 10가지 지문 방식을 사용자 성능은 유지한 채 인증을 완전히 우회하는 적응형 공격으로 뚫었다. 억제 공격 연구논문는 여러 LLM을 함께 쓰는 앙상블 상황을 겨냥했다. 디코딩마다 공통 토큰 집합에서만 다음 토큰을 고르는 TFA와, 퍼플렉서티와 투표로 지문 응답을 걸러 내는 SVA로 백도어 지문 응답을 억제하면서 앙상블 성능은 유지했다.
2026년의 '만드는 쪽' 연구는 이런 약점을 각자 다른 방향에서 메운다. P2F논문는 능동형의 비용 문제를, 워터마크 교사 재검토 연구논문는 품질과 탐지력의 맞바꿈을 다룬다. 이 연구는 기존 프로토콜이 열린 생성에서 품질 저하를 과소평가했고, 그래서 지나치게 강한 워터마크가 유리해 보였다고 지적한다. 지문 검증은 여러 질의에서 신호를 모을 수 있으므로 신호를 더 드물게 넣어도 된다. 그래서 기본 모델의 1순위 예측과 로짓 차이가 작은 토큰에만 워터마크를 거는 near-tie 제한을 제안했다. 내재형 쪽에서는 TrFP논문가 파인튜닝, 가지치기, 양자화, 모델 병합, 파라미터 순서 바꾸기, 적응형 공격에 버틴다고 보고했고 지문 저장 공간은 0.3MiB 미만이다. AttnPrint논문는 19개 멀티모달 구조의 154개 모델 인스턴스에서 실험했고, 다섯 가지 하위 변형에도 버텼다.
요즘 어디로 가고 있나
첫째, '관련 있다'에서 '누가 부모다'로 질문이 바뀌고 있다. Witness Overlap논문은 기존 출처 확인이 대부분 표현·가중치·행동 유사도처럼 대칭적인 증거에 기댄다는 점을 짚는다. A와 B가 닮았다는 것만으로는 어느 쪽이 먼저인지 알 수 없다. 이 연구는 같은 계열의 세 번째 체크포인트를 '증인'으로 두고, 두 후보 중 어느 쪽이 갈라져 나온 부모처럼 보이는지를 주변 기하 구조로 판단한다. 16개 계열의 176개 체크포인트에서 증인 하나만으로 부모-자식 판정의 95.3%를 맞혔다. 오픈웨이트 모델이 파인튜닝, 정렬, 병합을 거쳐 다시 공개되는 생태계에서 계보도를 그리는 데 쓸 수 있는 방향이다.
둘째, 실제 감사 환경에서 생기는 함정을 다룬다. 전염되는 지문 연구논문는 API 중계 업체가 대화 앞부분은 고객이 돈을 낸 모델로 답하고 나머지는 더 싼 모델에 몰래 넘기는 상황을 분석했다. 뒤를 이은 모델은 앞선 대화의 문체를 따라 해 앞 모델의 지문을 물려받는다. 그 결과 텍스트 분류기의 대체 모델 탐지율은 DeepSeek가 Claude Sonnet을 대신한 경우 0.97에서 0.72로, 같은 회사의 Haiku로 낮춘 경우 0.87에서 0.54로 떨어졌다. 반대로 정직한 모델도 긴 대화에서는 자기 지문에서 멀어진다. 새 대화로 보정한 능동 탐침은 긴 맥락에서 정직한 모델을 최대 1.00의 비율로 걸러 냈다. 연구는 두 실패 모두 '대화 이력에 따라 달라지는 답'을 '이력 없는 기준'과 비교해서 생긴다고 진단한다. 대안인 Lineup은 같은 대화 이력에서 주장된 모델로 기준 답들을 뽑고, 감사 대상 답이 그 사이에서 몇 번째인지로 검정한다. 두 폐쇄형 모델에서 오탐률은 0.056이었다.
두 연구 모두 같은 메시지를 준다. 실험실 조건의 높은 정확도가 실제 감사 상황의 판정력을 보장하지 않으며, 비교 기준을 감사 상황에 맞게 잡는 설계가 중요하다.
최근 연구의 눈에 띄는 수치
한계와 쟁점: 실무에서 따질 점
가장 큰 쟁점은 위협 모델이다. 파인튜닝이나 양자화에 버틴다는 결과는 '모르고 변형한' 경우에 대한 이야기다. 지문 방식을 알고 지우려는 상대에게는 다른 기준이 필요하다는 것이 적대적 강건성 연구논문의 결론이고, 이 연구는 설계 단계부터 적대적 강건성을 고려하라고 권한다. 백도어 지문은 앙상블처럼 응답을 걸러 내는 구성에서 억제될 수 있다논문. 평가 보고서를 읽을 때는 어떤 공격자를 가정했는지부터 확인해야 한다.
둘째는 맞바꿈이다. 능동형 지문은 모델을 바꾸므로 무해성 비용이 있고, 워터마크를 강하게 걸면 탐지는 쉬워지지만 글 품질이 떨어진다논문. 내재형 지문은 모델을 바꾸지 않지만, 가중치나 내부 계산에 접근해야 하는 경우가 많다. 따라서 API 뒤에 숨은 모델에는 바로 쓰기 어렵다. 출력 기반 방식은 접근 조건이 가장 느슨하지만 대화 이력, 디코딩 설정 같은 환경에 흔들린다논문논문.
셋째는 오탐이다. 유사도 기준값을 경험적으로 정하면 상황이 바뀔 때 정직한 모델을 의심하게 될 수 있다. 소유권 분쟁이나 계약 위반 판단처럼 결과가 사람과 조직에 영향을 주는 곳에서는 오탐률을 따로 보고, 하나의 지문 결과만으로 결론 내리지 않아야 한다.
흔한 실수는 세 가지다. 텍스트 워터마크 탐지기를 모델 출처 증거로 그대로 쓰는 것, 같은 백본을 공유하는 멀티모달 모델에서 언어 부분만 비교해 '같은 모델'로 판정하는 것논문, 그리고 유사도가 높다는 이유만으로 파생 방향까지 단정하는 것논문이다.
지문 결과를 믿기 전 점검
위협 모델
- 평범한 변형만 시험했는가, 적응형 공격도 시험했는가
- 앙상블·응답 필터링 구성을 고려했는가
접근 조건
- 가중치 접근이 가능한가, API만 보이는가
- 멀티모달이라면 공유 백본 때문에 헷갈리지 않는가
판정
- 오탐률을 따로 확인했는가
- 기준을 감사 상황(대화 이력 등)에 맞춰 잡았는가
- 닮았다는 결과로 파생 방향까지 단정하지 않았는가
더 공부하려면
처음이라면 서베이논문로 용어와 평가 지표를 잡는 것이 좋다. 텍스트 워터마크, 모델 워터마크, 모델 지문의 관계를 먼저 정리해 두면 이후 논문들이 어느 칸에 들어가는지 보인다. 다음으로 적대적 강건성 연구논문를 읽으면 '견고하다'는 주장을 어떤 눈으로 봐야 하는지 알 수 있다.
방식별로 깊이 보려면, 능동형은 P2F논문와 워터마크 교사 재검토 연구논문를 읽으면 비용과 품질이라는 두 축이 보인다. 내재형은 가중치 스펙트럼 지문논문과 TrFP논문를 함께 읽고, 가중치·Representation·Trajectory 가운데 무엇을 비교하느냐가 견고성과 고유성을 어떻게 바꾸는지 비교하면 좋다. 멀티모달은 AttnPrint·DistillTrace논문를 보면 된다.
실제 감사 시나리오에 관심이 있다면 전염되는 지문 연구논문와 Witness Overlap논문을 권한다. 앞의 연구는 API 신원 확인의 함정을, 뒤의 연구는 오픈웨이트 계보의 방향 판정을 다룬다.
관련 용어
오픈웨이트 AI 워터마크 Distillation 백도어 공격 모델 탈취 AI 공급망 보안 모델 병합 체크포인트
참고 문헌
핵심 논문
- Copyright Protection for Large Language Models: A Survey of Methods, Challenges, and Trends (2025)
- Prompt2Fingerprint: Plug-and-Play LLM Fingerprinting via Text-to-Weight Generation (2026)
- Language Model Fingerprinting Requires Rethinking Watermark Teachers (2026)
- Fingerprinting Multimodal Large Language Models (2026)
- From Representations to Computational Trajectories: Intrinsic Fingerprinting for Large Language Model Provenance Verification (2026)
- Model-intrinsic, Weight-level, and Training-free Spectral Fingerprinting for Large Language Models (2026)
- Are Robust LLM Fingerprints Adversarially Robust? (2025)
- Inhibitory Attacks on Backdoor-based Fingerprinting for Large Language Models (2026)
최근 연구
AI가 참고 문헌을 바탕으로 작성하고 검수를 거친 해설입니다. 정확한 내용은 원문을 확인해 주세요.