분석 · 2026-10-15

AI는 사이버 보안에서 공격과 방어 중 누구 편인가

보안 기업들은 AI 에이전트로 분석·조사·패치 시간을 크게 줄였다고 밝히고, 연구자와 연구소 수장들은 같은 능력이 공격에 쓰일 위험을 경고한다. 이 글은 이번 주 사례와 경고를 나란히 놓고, 공개된 근거가 어느 쪽으로 기울어 있는지와 실무자가 확인할 점을 정리한다.

핵심 정리

OpenAI와 AWS가 공개한 사례에서 기업들은 AI로 악성코드 분석·위협 조사·패치 제안 시간을 몇 주에서 몇 시간, 몇 분 단위로 줄였다고 밝혔다.
Tamnoon은 탐지부터 조치까지 에이전트에 맡기면서, 실제 환경에 손대기 전에 조사와 안전성 평가를 하는 단계를 따로 두었다.
Zhipu의 GLM을 활용한 연구자가 제보한 취약점 23건을 Microsoft가 한꺼번에 인정했다는 보도가 나왔다.
힌튼·벤지오 등 연구자 400여 명과 데미스 허사비스는 사이버 능력을 가진 AI를 다룰 국제 감독 체계와 표준을 촉구했다.
공개된 방어 성과 수치는 대부분 제공자 쪽 발표이고, 측정 방식은 드러나지 않았다.

방어 쪽에서는 무엇이 얼마나 빨라졌나?

이번 주 보안 소식은 대부분 방어 자동화 사례였다. 줄어든 시간의 단위도 눈에 띈다. 몇 주가 몇 시간이 되고, 몇 시간 걸리던 일이 몇 분 만에 끝난다.

OpenAI 발표글에 따르면 SentinelOne은 OpenAI Daybreak를 써서 몇 주 걸리던 악성코드 분석을 몇 시간으로 줄였고, 그만큼 더 많은 위협을 조사할 여력이 생겼다. 다만 측정 방식과 대상 범위는 공개 자료에 나오지 않는다. OpenAI가 소개한 Block 사례글에서도 보안팀이 위협을 더 빨리 조사하고 몇 분 안에 패치를 제안한다고 OpenAI는 밝혔다. AWS 블로그글에는 Orca Security 사례가 실렸다. Orca Security는 일반 영어 질문을 Sonar 쿼리로 바꿔 주는 에이전트 Discovery AI를 만들었고, 초기 기준선보다 쿼리 비용은 90%, 입력 토큰은 93%, 지연 시간은 75% 줄였다고 밝혔다.

세 사례 모두 사람이 손으로 하던 조사·질의 단계를 AI가 줄였다는 점이 같다. 다만 수치는 모두 도구를 판매하는 쪽에서 낸 것이다. 실무자에게는 '몇 주에서 몇 시간'이라는 수치 자체보다 어느 단계가 줄었는지가 더 쓸모 있는 정보다.

탐지를 넘어 조치까지 맡기면 무엇이 달라지나?

탐지 결과는 이미 사람이 처리할 수 있는 양을 넘었다. AWS 블로그글는 CNAPP(클라우드 네이티브 애플리케이션 보호 플랫폼)와 스캐너가 수천 건씩 결과를 내놓는다고 짚는다. 결과 대부분이 그대로 남아 있는 것은 고치기 어려워서가 아니다. 맥락을 조사하고, 담당자를 찾고, 수정해도 운영 환경이 깨지지 않는지 확인하는 데 시간이 들기 때문이라는 설명이다.

Tamnoon이 Amazon Bedrock 위에 만든 Tami는 이 빈틈을 겨냥한다글. Tami는 탐지 결과를 스스로 조사하고, 조치해도 안전한지 평가한 뒤, 가드레일(안전장치)과 거버넌스를 둔 상태에서 수정을 실행한다. 작업은 조사·안전성 평가 등을 맡는 전문 에이전트 네 개에 나눠 맡겼다. 조사 에이전트는 읽기 전용 조사 단계로 계획을 세운다. Tamnoon은 90일 동안 치명적 클라우드 노출을 90% 이상 줄였고 운영 환경 문제는 한 건도 없었다고 밝혔다.

이 사례의 핵심은 모델 성능보다 '실제 환경에 닿기 전' 단계를 어떻게 설계했는지에 있다고 볼 수 있다. 조치를 자동화하려면 에이전트에 얼마만큼의 권한을 줄지, 잘못됐을 때 어떻게 되돌릴지를 먼저 정해야 한다.

같은 능력은 공격 쪽에서 어떻게 보이나?

취약점을 찾는 능력은 누가 쓰느냐에 따라 의미가 달라진다. 제보자에게는 방어 수단이고, 공격자에게는 무기다. 이번 주에는 이런 이중 용도를 보여 주는 소식이 있었다.

InfoQ China 기사글 제목에 따르면 Microsoft가 취약점 23건을 제보한 공로를 한꺼번에 인정했다. 그 뒤에는 Zhipu의 GLM 모델과 한 최상위 화이트해커가 있었다고 한다. 어떤 제품의 취약점인지, GLM을 어떻게 썼는지는 수집 자료에 나오지 않는다. AI타임스가 인용한 The Information 보도글도 있다. OpenAI가 오픈소스 소프트웨어의 취약점 분석·수정을 전문으로 하는 Trail of Bits 인수를 두고 초기 협상을 하고 있다는 내용이다. Trail of Bits는 2012년에 세워졌고 직원은 40명이 넘는다. 거래 규모는 알려지지 않았고, 협상이 성사되지 않을 수도 있다.

GLM 사례는 LLM으로 찾은 취약점이 대형 벤더의 공식 인정으로 이어질 만큼 쓸모 있다는 신호로 읽힌다. 거꾸로 보면 같은 수준의 발굴을 공격자도 할 수 있다는 뜻이기도 하다.

왜 국제 감독 요구가 같은 주에 커졌나?

방어 성과가 공개되는 사이 위험 경고도 함께 나왔다. AI타임스 보도글에 따르면 제프리 힌튼과 요슈아 벤지오를 포함한 34개국 연구자 400여 명이 공개서한을 냈다. 서한은 고도의 사이버 공격 능력을 가진 모델의 격리 기준과 사고 보고를 감독할 국제기구를 세우자고 촉구했다. 서명자들은 기업의 자발적 약속만으로는 부족하다고 주장했다. 전자신문 보도글에 따르면 데미스 허사비스도 AI 에이전트의 안전조치가 미흡하면 2년 안에 심각한 보안사고가 일어날 수 있다고 경고하며 국제 표준을 요구했다.

누가 위험을 지는지에 대해서는 의견이 갈린다. Reddit에 공유된 기사 제목글에 따르면 Anthropic의 한 임원은 오픈소스 모델의 사이버 보안 위험이 더 크다고 주장했다. 다만 발언자가 누구인지, 어떤 근거로 말했는지는 확인되지 않는다. 가중치를 공개하는 GLM 계열이 취약점 제보에 쓰였다는 보도글와 함께 놓고 보면, 오픈 모델의 위험과 쓸모를 둘러싼 논쟁은 아직 결론이 나지 않았다고 볼 수 있다.

그래서 공격과 방어 중 누가 더 유리한지는 이번 주 근거만으로 판정하기 어렵다. 방어 쪽에는 공개 사례와 수치가 있고, 공격 쪽에는 경고와 주장이 있다. 다만 이 비대칭은 방어 성과가 홍보되기 쉽고 공격 성과는 드러나지 않는 구조 때문일 수도 있다.

실무자가 해볼 것

보안 백로그 처리 시간을 조사·담당자 확인·수정·검증 단계로 나눠 재 보고, AI 에이전트가 실제로 줄일 수 있는 구간이 어디인지 먼저 찾는다.
조치 자동화를 시험할 때는 Tamnoon처럼 읽기 전용 조사 단계와 실행 단계를 분리하고, 에이전트 권한을 최소 권한 원칙과 롤백 절차에 맞춰 설계한다.
벤더가 제시한 '몇 주에서 몇 시간' 같은 수치는 측정 방식과 대상 범위를 요청한 뒤, 우리 환경에서 같은 지표로 다시 검증한다.

출처

AI가 브리핑 소식과 공식 출처를 바탕으로 작성한 분석입니다. 해석은 근거에 비춘 하나의 읽기이며, 정확한 내용은 원문을 확인해 주세요.

AI는 사이버 보안에서 공격과 방어 중 누구 편인가

방어 쪽에서는 무엇이 얼마나 빨라졌나?

탐지를 넘어 조치까지 맡기면 무엇이 달라지나?

같은 능력은 공격 쪽에서 어떻게 보이나?

왜 국제 감독 요구가 같은 주에 커졌나?

관련 용어

출처