AI 용어집 · 기초 · AI 보안 · AI 플랫폼·솔루션
AI 공급망 보안 AI Supply Chain Security
AI 공급망 보안은 AI 시스템을 만드는 데 들어가는 외부 재료(데이터셋, 사전 학습된 모델, 라이브러리, 플러그인 등)가 오염되거나 변조되지 않았는지 확인하고 지키는 활동이다.
어떻게 작동하나
요즘 AI 서비스는 처음부터 혼자 만드는 경우가 드뭅니다. 공개 저장소에서 모델 가중치를 내려받고, 남이 만든 데이터셋으로 파인튜닝하고, 오픈소스 라이브러리와 MCP 서버 같은 도구를 붙여 완성합니다. 공급망 보안은 이 각 단계마다 출처를 확인하고, 파일이 원본과 같은지 서명·해시로 검증하고, 알려진 취약점이 있는지 점검하는 방식으로 이뤄집니다. 무엇을 썼는지 목록으로 남기는 AI BOM도 이 활동의 한 부분입니다.
공급망 점검 항목
출처
- 공식 배포처에서 받았는가
- 서명·해시로 원본과 같은지 확인했는가
내용
- 학습 데이터에 조작된 예시가 없는가
- 라이브러리에 알려진 취약점이 없는가
기록·격리
- 쓴 재료를 AI BOM에 남겼는가
- 샌드박스에서 먼저 시험했는가
왜 중요한가
공격자는 완성된 서비스를 직접 뚫기보다 그 서비스가 가져다 쓰는 재료에 몰래 문제를 심는 편이 쉬울 때가 많습니다. 예를 들어 학습 데이터에 조작된 예시를 섞는 데이터 포이즈닝, 특정 신호에만 이상하게 반응하도록 숨긴 백도어, 불러오는 순간 악성 코드가 실행되는 모델 파일 등이 있습니다. 한 번 오염된 재료는 그것을 가져다 쓴 수많은 서비스로 퍼질 수 있어 피해 범위가 넓습니다.
알아 둘 점
모델은 일반 소프트웨어와 달리 내부를 읽어서 문제를 찾기가 어렵습니다. 수십억 개의 숫자(파라미터) 안에 숨은 백도어는 코드 검사로 잘 드러나지 않습니다. 그래서 출처 관리, 격리된 환경(샌드박스)에서의 시험, 레드팀 평가처럼 여러 겹의 방어를 함께 씁니다. 완벽한 차단보다는 '무엇을 어디서 가져왔는지 알고, 문제가 생기면 빨리 추적할 수 있는 상태'를 목표로 합니다.
예시
한 회사가 공개 모델 허브에서 오픈웨이트 모델을 내려받아 사내 챗봇을 만든다고 해 봅시다. 보안팀은 모델을 바로 쓰지 않고, 공식 배포처의 파일인지 확인하고, 실행 코드가 섞일 수 있는 파일 형식 대신 안전한 형식을 쓰도록 하며, 함께 쓰는 라이브러리의 취약점을 점검합니다. 이후 붙이는 플러그인이나 MCP 서버도 같은 절차로 검수해 목록에 기록합니다.