논문 리뷰 · 2026년 11월 18일
SPILLWAY: 대상 허용 판단과 입력 정제를 분리해 도구 사용 에이전트를 프롬프트 인젝션에서 방어
SPILLWAY: Separating Target Admission from Sanitization to Defend Tool-Using Agents against Prompt Injection
도구가 반환하는 타입 필드만으로 행동 대상을 결정적으로 허용하고 지시문 형태의 텍스트를 규칙으로 제거해, 추가 모델 호출 없이 표준 인젝션의 대상 탈취를 0건으로 막았다.
문제
이메일·파일·결제를 다루는 에이전트는 웹 페이지나 문서에 숨은 지시문 때문에 공격자에게 데이터나 돈을 보낼 수 있다(간접 프롬프트 인젝션). 기존 방어는 허용 판단에 LLM을 두기 때문에 그 LLM도 공격 텍스트에 영향을 받을 수 있고, 매 단계 모델 호출이 늘어난다. Provenance 기반 방어도 과제마다 플래너나 라우터 모델이 필요하다.
방법
수신자·계정 같은 대상 값은 도구 반환의 타입 필드로 오고, 주입된 지시문은 본문 같은 자유 텍스트로 온다는 점을 이용한다. 출력 단계(Egress Floor)에서는 사용자 과제에 없고 도구 출력에만 나타난 대상 값이, 읽기 전용 도구의 타입 식별자 필드(이메일, URI, 수신자 등)에서 왔고 자유 텍스트에 반복되지 않을 때만 호출을 허용한다. 이 판단은 집합 조회라서 백본 모델과 상관없이 같다. 고정된 위임 규칙(예: 사용자가 말한 이름이 들어간 주소)도 허용한다. 입력 단계에서는 결정적 정제기가 위조된 채팅 템플릿과 지시문 형태의 영역을 모델이 읽기 전에 제거하고, 제거한 구간을 증거로 보관한다. 거부된 호출만 로컬 Judge 모델이 두 관점(라우팅, 페이로드)에서 재검토해 복원할 수 있지만, 대상이 제거된 구간 안에 있으면 Judge에게 넘기지 않는다.
결과
- AgentDojo의 3개 백본 × 4개 스위트, 총 12개 셀에서 표준 템플릿 인젝션의 In-scope 공격 성공이 모든 셀에서 0이었다. 저자들은 비교한 방어 중 유일하다고 보고했다.
- 같은 조건에서 MELON, Progent, DRIFT는 12개 셀 중 7~11개에서 공격이 성공했다. qwen3:8b에서는 정상 에피소드당 백본 호출이 2.2~13.6회 늘었다. SPILLWAY는 방어 때문에 백본을 다시 실행하지 않았다.
- 표준 공격에서 실행한 방어 중 공격 상황 유용성과 복합 점수(NRP, ERS)가 가장 높았다.
- ChatInject(채팅 템플릿 위조) 공격의 원시 성공률이 0이었고, 공개된 강화학습 공격기 PISmith의 평균 In-scope 공격 성공률은 0.005였다.
- 위임 라우팅 7개 스위트에서 가장 가까운 방어인 ROPE보다 모든 스위트에서 유용성이 높았다. ROPE는 3개 스위트에서 공격이 성공했다.
한계
보장 범위는 행동의 '대상'에 한정된다. 정상 수신자에게 주입된 내용을 보내거나 최종 답변에 주입 텍스트가 섞이는 콘텐츠 공격은 범위 밖이다. 도구 제공자가 식별자 필드에 공격자 값을 쓰는 경우도 위협 모델에서 제외했다. 도구 역할 분류는 벤치마크별 고정 사전에 의존한다. 평가는 AgentDojo와 AgentDyn에 한정되고, CaMeL과는 직접 비교하지 않았다.
의미
에이전트 보안에서 LLM 판단에 기대지 않는 결정적이고 감사 가능한 거부 기준을 제시한다. 추가 모델 호출 없이 적용할 수 있어, 이메일·결제 에이전트를 운영하는 팀이 비용 부담 없이 기본 방어선으로 검토할 수 있다.
핵심 용어
- 간접 프롬프트 인젝션
- 에이전트가 읽는 웹 페이지·문서·이메일에 공격자가 지시문을 숨겨 에이전트의 행동을 조종하는 공격이다.
- Taint-novel 값
- 사용자 요청에는 없고 도구 출력에만 나타난 값이다. 공격자가 심었을 가능성이 있어 별도 검증 대상이 된다.
- Egress Floor
- 외부로 영향을 주는 도구 호출 직전에, 대상이 허용 집합에 있는지를 규칙으로 확인하는 최소 방어선이다.
- Span Veto
- 정제기가 제거한 텍스트 구간 안에 있는 대상은 Judge 모델이 복원할 수 없게 막는 규칙이다.
원문
저자: Woosang Lim, Yeseul Chang, Jaewoo Lee · 게시 2026-11-04 · 라이선스 arXiv 비독점 배포 라이선스 · 본문 기준 분석
이 리뷰는 AI가 논문을 읽고 작성한 요약이며, 정확한 내용은 원문을 기준으로 확인해 주세요.