데이터 유출 Data Exfiltration
데이터 유출(Data Exfiltration)은 허가받지 않은 사람이나 프로그램이 조직 안의 데이터를 몰래 바깥으로 빼내는 것이다. AI 시대에는 AI 에이전트가 속아서 스스로 데이터를 외부로 보내는 경우가 새로운 위험으로 떠올랐다.
어떻게 작동하나
전통적인 데이터 유출은 해킹으로 서버에 들어가 파일을 복사해 가는 방식이 많았다. AI 서비스에서는 간접 프롬프트 인젝션을 통한 경로가 주목받는다. 공격자가 웹페이지나 이메일, 문서에 숨은 지시를 심어 두면, 그것을 읽은 AI 에이전트가 지시대로 사내 데이터를 찾아 읽는다. 그런 다음 링크 주소나 이미지 주소에 데이터를 덧붙이거나, 메일 보내기 같은 도구를 호출해 공격자 서버로 내보낸다. 사용자는 화면에서 평범한 답변만 보기 때문에 유출을 알아채기 어렵다.
왜 중요한가
AI 에이전트는 메일, 파일, 데이터베이스, 웹 검색 등 여러 도구에 동시에 접근하는 경우가 많다. '민감한 데이터에 접근 가능', '믿을 수 없는 글을 읽음', '바깥으로 보낼 수 있음' 세 조건이 한 에이전트에 모이면 유출 위험이 크게 높아진다. 고객 정보나 영업 비밀이 새어 나가면 금전 피해뿐 아니라 법적 책임과 신뢰 하락이 따른다. 그래서 AI 도입이 늘수록 데이터 유출 방지는 보안팀의 핵심 과제가 되고 있다.
알아 둘 점
모델이 공격 지시를 거절하길 기대하는 것만으로는 부족하다. 에이전트가 접근할 수 있는 데이터를 최소 권한 원칙에 따라 줄이고, 바깥으로 나가는 통로(외부 링크, 메일 발송, 네트워크 요청)를 허용 목록으로 제한하는 것이 기본이다. 민감한 동작 앞에는 사람이 확인하는 휴먼 인 더 루프 단계를 두고, 나가는 데이터를 감시하는 로그도 남겨야 한다. 한편 '데이터 유출'이라는 말은 실수로 정보가 공개되는 사고(leak)까지 넓게 가리킬 때도 있어, 문맥에 따라 뜻을 확인하는 것이 좋다.
예시
이 사이트에 실린 소식 중에는 금융사를 겨냥한 'AI 해킹' 사태로 예가람·웰컴저축은행 고객정보가 유출되었다는 보도가 있었다(나머지 회원사의 추가 피해는 확인되지 않았다고 전해졌다). 이처럼 금융권은 고객 정보가 곧 핵심 자산이라 데이터 유출이 특히 민감하다. 기업들은 사내 AI 비서를 도입할 때 외부 링크 자동 표시를 막고, 메일 발송 같은 도구는 사용자 확인 뒤에만 실행되도록 설계하는 식으로 대비한다.
이 사이트에서 나온 사례
- 브리핑 금융사 겨냥 'AI 해킹' 사태…예가람·웰컴저축은행 고객정보 유출, 나머지 회원사는 추가 피해 미확인(보도) 2026-10-07