분석 · 2026-11-13 · 작성자 bombong
에이전트 실행 환경이 클라우드 상품이 되면 무엇이 바뀌나
이번 주 Google Cloud, Moonshot AI, AWS, Mistral AI는 에이전트를 돌리는 하네스·격리 세션·런타임을 관리형 서비스로 발표하거나 실행 방법을 내놓았다. 이 글은 실행 계층에 무엇이 들어 있고 운영 위치가 회사마다 어떻게 갈리는지 정리한다. 이어서 종속성과 비용 구조가 모델 API 밖으로 넓어지는 모습을 보여 준다.

- Google Cloud는 Agent Substrate 1.0, Moonshot AI는 Kimi Hosted Agents를 내놓았고 Mistral AI는 Studio에 관리형 에이전트를 더했다. 모두 같은 주에 나온 실행 계층 상품이다.
- 실행 계층에는 작업별 격리 세션, 상태 저장·복원, 감사 기록, CPU 실행, 저장소가 들어 있다.
- 회사마다 고르는 운영 위치가 다르다. 직접 만드는 공통 런타임(GitHub), 기업 자체 인프라 배포(Mistral), 고객 계정 안 격리 세션(AWS), 완전 관리형(Moonshot)으로 나뉜다.
- 종속성은 모델 API에서 멈추지 않는다. 에이전트 상태, 감사 기록, 템플릿·플러그인 생태계로 옮겨 갈 수 있다고 볼 수 있다.
- AWS는 원격 코딩 에이전트의 맞교환 조건으로 실행 중 개입 감소, 환경 설정 부담, 예측하기 어려운 비용을 직접 꼽았다.
이번 주 무엇이 한꺼번에 나왔나?
이번 주 에이전트 소식의 공통점은 모델 자체가 아니라 모델을 돌리는 실행 환경이었다. 그 중심에 하네스(Agent Harness)가 있다. 하네스는 모델에 도구·기억·샌드박스를 붙여 실제로 일을 시키는 실행 틀이다. 이 하네스를 관리형 서비스로 파는 발표가 같은 주에 여러 건 나왔다.
인공지능신문 보도에 따르면 Google Cloud는 미국 시간 5일 자율 에이전트 실행 플랫폼 Agent Substrate 1.0을 정식 출시했다. 운영용 인프라 3종도 오픈소스로 공개했다글. 핵심 기능은 쉬고 있는 에이전트의 상태를 저장했다가 다시 부를 때 되살리는 것이다글. Google은 실행 밀도가 기존 컨테이너 방식보다 최대 10배 높고, 저장한 상태를 0.5초 안에 복원한다고 밝혔다. 다만 비교 조건은 알려지지 않았다글. Pandaily에 따르면 Moonshot AI는 24시간 돌아가는 관리형 하네스 Kimi Hosted Agents를 내놓았다. 샌드박스, 감사 기록, Inference Hook, 금융 템플릿 8종을 함께 제공한다글. Mistral AI는 Studio에 관리형 에이전트·앱과 에이전트 관측·평가 기능을 더했다고 발표했다글.
수요와 주변 시장도 함께 움직였다. Pandaily에 따르면 DeepSeek Harness의 일간 사용자는 154만 명이고, 하루 처리량은 약 92조 토큰이다글. TechCrunch는 Dropbox가 에이전트 개발자용 스토리지 DBX Agent Cloud를 만들려고 Tigris Data를 3억5,000만 달러에 인수한다고 보도했다글. 클라우드, 모델 회사, 저장소 회사가 같은 층을 두고 움직였다는 점에서 경쟁 지점이 넓어지고 있다고 볼 수 있다. '어떤 모델을 쓰나'에서 '어디서 어떻게 돌리나'까지로다. 이제 에이전트 도입을 검토할 때 모델과 런타임을 따로 골라야 한다는 뜻이다.
실행 계층을 둘러싼 숫자
실행 계층에는 무엇이 들어 있나?
실행 계층은 추상적으로 들리지만 구성 요소는 구체적이다. AWS가 공개한 가이드가 좋은 예다. AWS는 Claude Code를 Amazon Bedrock AgentCore 위에서 원격 에이전트로 돌리는 방법을 설명했다. 코딩 작업 하나마다 고객 AWS 계정 안에 격리 세션이 따로 만들어진다. 모든 모델 호출은 Amazon Bedrock을 거치고, 결과는 GitHub Pull Request로 돌아와 사람이 검토한 뒤 머지한다글. AWS는 이 구성을 택하는 이유도 들었다. 좌석당 라이선스 없이 기존 AWS 계정으로 청구된다. AWS CloudTrail에 감사 로그가 남는다. 요청·응답을 저장하지 않는 ZDR(zero data retention)도 설정할 수 있다글.
하드웨어 쪽에서도 같은 흐름이 보인다. NVIDIA는 에이전트가 작업 중에 GPU 추론과 CPU 실행을 오간다고 짚었다. 검색, DB 질의, 코드 실행이 CPU에서 처리되는 단계라는 설명이다글. NVIDIA는 파트너 Daytona가 Vera CPU에서 에이전트 샌드박스 1,000개를 10.8초 만에 띄웠다고 밝혔다. x86에서는 88.4초가 걸렸다는 것이 NVIDIA의 주장이다글. 저장소도 실행 계층의 일부로 다뤄지기 시작했다글.
종합하면 에이전트 운영 비용은 모델 호출 요금에서 끝나지 않는다. 격리 세션, 대기 중인 상태 보관, 감사 기록, CPU 실행, 저장소가 함께 비용이 된다고 볼 수 있다. Google이 상태 저장과 실행 밀도를 앞세운 것도 이 대기 비용을 겨냥한 것으로 읽힌다글.
어디서 돌리느냐는 왜 회사마다 갈리나?
같은 실행 계층이라도 누가 운영하고 어디에 두는지는 회사마다 다르다. 한쪽 끝에는 직접 만드는 길이 있다. GeekNews에 공유된 영상 요약을 보면 GitHub은 TypeScript로 된 Copilot 런타임 40만~45만 줄가량을 Rust로 옮겼다. 목표는 Node.js와 V8 없이 여러 제품에 넣는 공통 에이전트 하네스였다글. 약 14.5주 동안 배포를 멈추지 않고 단계적으로 바꿨고, 그동안 출시는 약 130번 이뤄졌다고 한다글.
Mistral AI는 Studio를 클라우드, 기업 VPC, 온프레미스, 또는 이들을 섞은 환경에 배포할 수 있다고 밝혔다. Mistral의 글에는 BNP Paribas 담당자의 발언도 실렸다. 민감한 프로세스를 돌리기 때문에 자체 인프라에서 Studio를 운영한다는 내용이다글. AWS는 실행을 맡기되 고객 계정 경계 안에 두는 중간 지점을 제시했다글. Moonshot AI의 서비스는 팀이 런타임을 직접 호스팅하지 않아도 되는 쪽에 있다글. Google은 관리형 플랫폼과 오픈소스 인프라를 함께 내놓았지만, 공개된 3종의 이름과 라이선스는 아직 확인되지 않는다글.
이 차이는 기술 취향보다 통제 요구의 차이로 읽힌다. 데이터 주권과 감사가 중요한 조직은 경계 안쪽을 고르고, 운영 인력을 아끼려는 조직은 완전 관리형 쪽으로 기울 수 있다. 자기 조직이 이 스펙트럼의 어디에 서야 하는지 먼저 정하면 후보가 빠르게 좁혀진다.
실행 계층을 누가 운영하나
- GitHub 공통 런타임
- Mistral Studio 자체 인프라 배포
- AWS 고객 계정 안 격리 세션
- Google 관리형+오픈소스
- Kimi Hosted Agents
종속성과 비용은 어떻게 바뀌나?
모델 API는 비교적 갈아 끼우기 쉬운 편이다. 하지만 실행 계층에는 쌓이는 것이 많다. 저장된 에이전트 상태글, 감사 기록글글, 업무용 템플릿글, 플러그인이 그렇다. Pandaily에 따르면 DeepSeek Harness에는 외부 개발자가 만든 플러그인이 약 3만5,000개 있고, 공식 마켓플레이스와 제작자 프로그램도 준비 중이다글. 이런 자산이 늘수록 종속성이 모델에서 하네스와 생태계로 옮겨 갈 수 있다고 볼 수 있다.
비용 구조도 달라진다. AWS는 원격 코딩 에이전트의 맞교환 조건을 스스로 꼽았다. 실행 중에는 덜 개입하게 되고, 환경 설정이 필요하며, 비용을 예측하기 더 어렵다는 것이다글. 맞는 작업과 맞지 않는 작업도 구분했다. 잘 맞는 것은 자체 설정·테스트 명령이 있는 신뢰할 수 있는 저장소에서 범위가 정해진 기능, 버그 수정, 테스트 작업이다. 신뢰할 수 없는 코드는 맞지 않는다고 밝혔다글.
정리하면 관리형 런타임을 고를 때는 모델 단가 비교만으로 부족하다. 세션·대기·저장 비용, 그리고 쌓인 자산을 다른 곳으로 옮길 수 있는지가 함께 판단 기준이 된다고 볼 수 있다. 오픈소스 공개글나 다중 환경 배포글가 이식성을 얼마나 높일지는 라이선스와 실제 구성 요소를 확인한 뒤에 판단하는 것이 안전하다.
맡길 때와 쥘 때
관리형 하네스에 맡김운영 부담을 덜기
- 런타임 직접 호스팅 불필요
- 템플릿·플러그인을 바로 사용
- 상태·기록이 제공자 환경에 쌓임
내 경계 안에 둠통제를 지키기
- 자체 인프라·VPC·온프레미스 배포
- 데이터·모델 접근을 직접 통제
- 설정·운영 부담과 비용 예측이 숙제
공통 어느 쪽이든 모델 밖 실행 계층이 비용과 종속성을 좌우한다
- 지금 운영 중인 에이전트 작업의 비용을 '모델 호출'과 '격리 세션·대기 상태·저장소'로 나눠 적고, 관리형 런타임 견적을 받을 때 두 항목을 따로 비교한다.
- 관리형 하네스를 계약하기 전에 에이전트 상태, 감사 기록, 템플릿·플러그인을 다른 환경으로 내보낼 수 있는지, 오픈소스 구성 요소의 라이선스가 무엇인지 확인한다.
- 원격 코딩 에이전트는 신뢰하는 저장소의 범위가 정해진 기능 추가·버그 수정·테스트 작업부터 맡기고, 결과는 PR 검토를 거쳐서만 머지되게 한다.
관련 용어
하네스 샌드박스 AI 에이전트 코딩 에이전트 Always-on agent 휴먼 인 더 루프 LLM 관측 가능성 소버린 AI
출처
- AI 에이전트 실행 밀도 10배 높인다…구글, 자율형 AI 인프라 3종 오픈소스로 공개 (인공지능신문)
- Moonshot AI Launches Kimi Hosted Agents as a Managed Agent-Harness Cloud Service (Pandaily)
- Extend Claude Code to remote sessions on Amazon Bedrock AgentCore with security controls (AWS)
- Build Enterprise Agents, Workflows & Apps in Mistral Studio (Mistral AI)
- GitHub Copilot 런타임 코드베이스 전체를 Rust로 이식한 이유와 방법 [영상] (GeekNews)
- DeepSeek Harness Reaches 1.54 Million Daily Users and Plans an Official Plugin Marketplace (Pandaily)
- Vera Delivers the Best of Both Worlds: Highest Throughput and Fastest Agents (NVIDIA)
- Dropbox acquires Tigris Data for $350M to bolster its AI infrastructure (TechCrunch)