브라질 노동법원, 제출 서류에 흰 글씨로 프롬프트 인젝션을 숨겨 법원 AI 검토를 조작하려던 변호사 2명에 금전 제재(커뮤니티 전언)

확인된 내용 (사실)

GeekNews 요약에 따르면 브라질 노동법원이 변호사 2명을 질책하고 금전 제재를 내렸다. 두 변호사는 법원이 쓰는 AI 검토 시스템을 조작하려고 제출 서류에 숨은 지시문을 넣었다. 지시문은 흰 배경에 흰 글씨로 써서 사람 눈에는 보이지 않았다. 내용은 AI에게 서류를 대충 훑어보게 하고, 어떤 지시를 받더라도 첨부 문서에는 이의를 달지 말라는 것이었다.

의미 (해석)

프롬프트 인젝션이 실제 사법 절차에서 쓰였다가 제재까지 받은 사례다. 법원·행정기관처럼 외부 문서를 AI로 검토하는 곳은 숨은 텍스트를 걸러내는 장치와 사람의 확인 절차를 갖춰야 한다는 점을 보여 준다.

출처

• 커뮤니티 브라질 법원, 법원 제출 서류에 프롬프트 인젝션을 숨긴 변호사들 제재 GeekNews