← 2026년 11월 21일 브리핑

P2 연구 확인 필요 AI 보안안전·정렬Ars Technica

연구자, 추적 가능한 비밀을 담은 프롬프트 '카나리아' 200만 개를 AI 공급망에 심어 시험…"사용자 데이터 비공개로 유지 안 돼"(Ars Technica 보도)

발표 2026년 11월 20일

확인된 내용 (사실)

Ars Technica에 따르면 한 연구자가 고유하고 추적 가능한 비밀을 넣은 프롬프트 약 200만 개를 AI 공급망에 흘려보내는 시험을 했다. 시험 결과 사용자가 입력한 데이터가 비공개로 남지 않고 외부로 드러나는 사례가 확인됐다는 것이 보도의 요지다. 연구자 신원, 어떤 서비스·중개 경로에서 유출됐는지, 유출 비율은 수집 자료에서 확인되지 않는다.

의미 (해석)

API 중개·래퍼 서비스 등 여러 단계를 거치는 AI 이용 구조에서 프롬프트에 담긴 비밀이 새어 나갈 수 있다는 실증이라, 기업은 민감 정보 입력 정책과 공급업체 점검을 다시 볼 필요가 있다.

신뢰도 보통 · 공식 출처 확인 전

출처