휴먼 인 더 루프 Human-in-the-Loop, HITL
휴먼 인 더 루프(HITL)는 AI가 일을 처리하는 과정 중간에 사람이 끼어들어 확인·승인·수정을 하도록 설계하는 방식입니다. AI에게 모두 맡기지 않고 중요한 고비마다 사람이 판단합니다.
어떻게 작동하나
AI가 어떤 행동을 하기 전에 '이렇게 하려고 합니다'라고 계획이나 결과를 사람에게 보여 줍니다. 사람은 이를 승인하거나, 거절하거나, 고칠 점을 알려 줍니다. 거절되거나 수정 요청을 받으면 AI는 그 의견을 반영해 다시 시도합니다. 모든 단계를 확인하게 할 수도 있고, 파일 삭제·결제·메일 발송처럼 되돌리기 어려운 작업만 골라서 확인하게 할 수도 있습니다.
왜 중요한가
AI는 그럴듯하지만 틀린 답을 내놓는 환각을 일으키기도 하고, 사용자의 의도를 잘못 이해하기도 합니다. AI 에이전트가 실제로 행동까지 하게 되면서 이런 실수는 곧바로 현실의 피해로 이어질 수 있습니다. 사람이 중요한 순간에 한 번 확인하면 이런 위험을 크게 줄일 수 있습니다. 또 사람이 남긴 수정 의견은 AI를 더 낫게 만드는 학습 자료로 쓰이기도 합니다.
알아 둘 점
사람의 확인이 많을수록 안전하지만 그만큼 느려지고 번거로워집니다. 그래서 위험도에 따라 확인할 지점을 고르는 설계가 중요합니다. 승인 요청이 너무 자주 뜨면 사람이 내용을 보지 않고 습관처럼 누르게 되어 오히려 안전장치가 무력해질 수 있습니다.
예시
코딩 에이전트는 코드를 고치거나 터미널 명령을 실행하기 전에 '이 명령을 실행해도 될까요?'라고 묻고 사용자가 승인해야 진행하는 방식을 흔히 씁니다. 고객 상담 챗봇도 환불처럼 민감한 처리는 상담원에게 넘겨 사람이 최종 판단하게 하는 경우가 많습니다.