AI 용어집 · 기초 · 안전·정렬 · 피지컬 AI·로봇 · 국방·안보
자율 무기 체계 LAWS, Lethal Autonomous Weapon Systems
자율 무기 체계(LAWS, Lethal Autonomous Weapon Systems)는 한번 작동시키면 사람이 하나하나 승인하지 않아도 표적을 고르고 공격까지 할 수 있는 무기 체계를 말한다. 국제사회에서 규제 여부와 방식을 두고 논쟁이 계속되는 개념이다.
무엇인가
자율 무기 체계를 가르는 핵심은 '누가 마지막 공격 결정을 내리느냐'다. 사람이 원격으로 조종하는 무인기는 자율 무기로 보지 않는다. 사람이 매번 승인하는 방식을 휴먼 인 더 루프, 기계가 결정하고 사람은 지켜보다 멈출 수만 있는 방식을 휴먼 온 더 루프, 사람이 아예 빠진 방식을 휴먼 아웃 오브 더 루프라고 부른다. 보통 마지막 단계, 곧 사람 개입 없이 표적 선택과 공격이 이뤄지는 경우가 논쟁의 중심이다.
사람이 얼마나 관여하나
- 원격 조종
- 휴먼 인 더 루프
- 휴먼 온 더 루프
- 휴먼 아웃 오브 더 루프
왜 중요한가
AI가 영상 인식과 판단 능력을 키우면서 기술적으로 가능한 자율의 범위가 넓어졌다. 찬성 쪽은 반응 속도가 빠르고 병사의 위험을 줄일 수 있다고 말한다. 반대 쪽은 기계가 생사를 결정하는 것 자체가 인간 존엄에 어긋나고, 민간인과 전투원을 구별하는 국제인도법 원칙을 지키기 어렵다고 본다. 그래서 유엔 특정재래식무기협약(CCW) 등 국제 논의의 틀에서 정의와 규제 방식이 다뤄져 왔다.
알아 둘 점
아직 국제적으로 합의된 단일 정의가 없어서, 같은 체계를 두고도 나라마다 자율 무기인지 아닌지 판단이 다를 수 있다. 오작동이나 잘못된 판단이 일어났을 때 개발자·지휘관·운용자 중 누가 책임지는지가 불분명해지는 '책임 공백' 문제가 자주 지적된다. AI 모델은 학습하지 않은 상황에서 예측하기 어렵게 행동할 수 있어, 전장처럼 변수가 많은 환경에서는 위험이 커진다. 이 때문에 많은 논의가 '의미 있는 인간 통제'를 어떻게 보장할지에 모인다.
예시
국방 분야에서는 감시 영상에서 의심 물체를 찾아 표시하는 AI 보조 도구가 쓰이는데, 이때 실제 대응 여부는 사람이 결정한다. 같은 인식 기술이라도 사람이 결정을 내리도록 설계하면 의사결정 보조 도구이고, 사람 없이 공격까지 이어지도록 설계하면 자율 무기 논쟁의 대상이 된다. 그래서 각국의 국방 AI 원칙 문서는 기술 자체보다 '사람이 어디에서 어떻게 판단하느냐'를 중심으로 쓰이는 경우가 많다.