아침 브리핑 · 08:00
에이전트 실행권, 검증 장치가 따라붙다
AI 에이전트에게 실행을 맡기는 범위가 넓어지면서, 그 실행을 검증하고 제한하는 장치도 함께 제품이 되고 있다. 오늘 OpenAI는 취약점 발견에서 패치 생성까지 사람 없이 돌린 결과를 내놓았다. AWS·NVIDIA·NetEase는 에이전트 행동을 승인하고 평가하고 감시하는 기능을 잇달아 소개했다.
보안에서 먼저 드러난 실행과 통제
보안은 에이전트의 실행 능력과 그 위험이 가장 먼저 맞닿는 분야다. OpenAI는 사람 개입 없이 돌아가는 파이프라인으로 Linux 커널의 로컬 권한 상승(LPE) 취약점 948건을 찾았다. 이어 실제 악용 가능성을 확인하고 패치 초안까지 만들었다고 밝혔다1. 발견에서 멈추지 않고 검증과 수정까지 한 흐름으로 이었다는 점에서, 에이전트가 맡는 일이 개별 작업을 넘어 공정 전체로 넓어졌음을 보여 준다. 다만 어떤 모델을 썼는지, 패치가 업스트림에 반영됐는지는 공개 자료에 나와 있지 않다.
강한 보안 모델을 내놓는 방식에서는 접근 통제가 먼저 설계된다. OpenAI는 사이버 보안 서비스 Daybreak Red를 AWS GovCloud(US-East)에 내놓았다. 승인을 받은 고객만 Amazon Bedrock을 거쳐 GPT-5.6 Cyber를 허가된 보안 업무에 쓸 수 있다4. 능력이 커질수록 누가 어떤 용도로 쓸지를 먼저 정해 두는 구조다.
반대 방향의 사례도 같은 날 나왔다. GitBook은 11월 2일 일부 인프라 자격 증명에 무단 접근이 있었다고 알렸다. 회사는 이를 AI 에이전트를 쓴 표적 공격으로 설명했고, 시크릿을 모두 교체한 뒤 고객 API 토큰을 전부 무효화했다9. 방어와 공격 양쪽에 에이전트가 등장하면서, 연동 토큰과 권한 관리도 실행 능력만큼 무게가 커졌다.
운영 현장에서는 감독이 기능이 된다
보안에서 보인 실행과 통제의 짝은 기업 운영 현장에서도 같은 모양으로 나타난다. 말레이시아 통신사 U Mobile은 Amazon Bedrock AgentCore 위에 에이전트 운영 플랫폼 AiDaH를 만들어 6개 부서의 운영 시나리오 150여 개를 맡기고 있다. AWS와 U Mobile은 이를 통해 트러블 티켓이 최대 84.5% 줄었다고 밝혔다11. NVIDIA도 생산 라인에 문제가 생기면 여러 에이전트가 역할을 나눠 원인을 조사하는 Factory Operations Blueprint를 소개했다13.
에이전트가 직접 실행하는 범위가 넓어질수록 사람의 감독을 어디에 둘지가 설계 과제가 된다. AWS는 Amazon Quick의 Smart Approvals에서 정책으로 허용 범위를 정하고, 분류기가 개별 행동을 판단해 결과가 큰 결정만 사람에게 넘기도록 했다12. 모든 행동에 승인을 요구하면 사람이 습관처럼 승인하게 된다. 이 기능은 감독의 강도를 위험도에 맞춰 나누는 방식으로 그 문제를 풀려는 시도다. NetEase Yidun의 Agent Guard는 에이전트의 출력보다 의도·권한·도구 호출을 검사하고, Skill과 MCP(Model Context Protocol) 공급망까지 스캔한다18.
통제는 배포한 뒤에도 이어진다. NVIDIA는 NeMo로 운영 중 쌓인 에이전트 실패 기록을 우선순위 이슈와 맞춤 평가로 정리하고, 이를 프롬프트·도구·하네스 코드 수정으로 잇는 방법을 소개했다14. AWS는 범위가 좁고 반복되는 평가 질문을 결정 모델에 맡겨 AgentCore Evaluations의 코드 기반 평가기로 쓰는 방법을 공개했다. 이 검사를 릴리스 게이트로 쓰기 전에 검사 자체를 검증하는 절차도 함께 설명했다22. 승인, 행동 감시, 실패 회귀 테스트가 서로 다른 층에서 같은 문제를 다루고 있다.
아직 남은 공백
그렇다고 통제 장치가 능력 경쟁을 대신하고 있다고 보기는 이르다. 개발 도구 시장에서는 에이전트를 더 많이, 개발 환경에 더 가까이 붙이는 경쟁이 여전히 활발하다. TechCrunch는 엔지니어가 여러 에이전트를 띄워 한 프로젝트의 여러 부분을 동시에 맡기는 도구를 만드는 Conductor를 Meta가 인수했다고 보도했다2. GitHub Copilot은 Xcode에 내장된 코딩 어시스턴트 안에서 퍼블릭 프리뷰로 쓸 수 있게 됐다3. 병렬 에이전트와 네이티브 IDE 통합은 실행량을 늘리는 방향이고, 이를 감독하는 장치는 그 속도를 따라가는 중이다.
성과 수치 상당수가 아직 당사자의 발표라는 점도 한계다. U Mobile의 티켓 감소폭은 AWS와 U Mobile이 밝힌 값이다. OpenAI가 찾은 취약점도 커널 메인테이너 검토를 거쳐 병합될지는 아직 확인되지 않았다. Ricursive Intelligence는 Ripple-65B Preview가 에이전트 코딩 벤치마크에서 훨씬 큰 모델들을 앞섰다고 주장하지만, 독립 검증은 아직 나오지 않았다6. 에이전트의 행동을 통제하는 장치만큼, 에이전트의 성과를 외부에서 확인하는 장치도 필요하다.
에이전트 도입을 검토하는 기업은 성능 지표와 함께 승인 정책, 권한 범위, 실패 기록을 다루는 체계를 따져 봐야 한다. 연동 토큰과 MCP 같은 외부 도구 연결도 점검 대상이다. 앞으로는 OpenAI가 찾은 커널 취약점 패치가 업스트림에 병합되고 CVE가 발급되는지, Ripple-65B Preview 수치를 제3자가 재현하는지 확인할 필요가 있다.