2026년 10월 28일

한 클라우드에 나란히 선 가속기들

Oracle과 Google은 10월 27일(현지시간) 'Oracle AI World' 행사에서 Google이 설계한 AI 칩 TPU(Tensor Processing Unit)를 OCI에 들이기로 했다고 밝혔다²⁶. 보도에 따르면 Google이 자사 클라우드 밖의 하이퍼스케일러에 TPU를 공급하는 것은 이번이 처음이다. 같은 날 NVIDIA와 Oracle은 OCI에서 Vera Rubin NVL72 시스템과 단독형 Vera CPU를 정식 출시했다³³. 클라우드 시장의 경쟁사가 만든 칩과 GPU 주력 공급자의 신제품이 한 클라우드 안에 함께 들어선 셈이다.

이 조합은 양쪽 모두에 선택지를 넓혀 준다. Google은 칩을 팔 곳을 늘리고, Oracle은 가속기 공급원을 여럿으로 나눌 수 있다. 아침 글이 짚은 연산 원가 부담에 비춰 보면, 공급원 다변화는 원가를 관리하는 수단으로도 볼 수 있다. 다만 TPU의 제공 시점과 규모, 세대가 공개되지 않아 실제 비중은 아직 판단하기 어렵다.

역할별로 나뉘는 연산 자원

칩 종류를 넘어, 연산 자원을 쓰임새에 따라 따로 늘리는 구성도 상품으로 나왔다. Vera CPU를 GPU와 따로 증설하는 구조는 AI 에이전트가 코드를 실행하고 데이터를 찾는 작업에 맞춘 것이다. 두 회사는 이 구조로 값비싼 GPU가 작업을 기다리며 노는 시간을 줄일 수 있다고 설명했다. 하지만 활용률이 실제로 얼마나 오르는지는 공개되지 않았다. 두 회사는 OCI 슈퍼클러스터를 수 기가와트(GW) 규모로 키우는 계획도 함께 내놨다.

공급망 아래쪽 메모리에서도 수요가 실적으로 확인됐다. SK하이닉스는 3분기 매출이 104조6,155억 원으로 처음 100조 원을 넘었다. HBM4 출하가 본격화하고 서버용 DDR5 판매가 늘어난 것이 성장을 이끌었다³⁷. 가속기와 CPU, 메모리가 저마다 따로 확장되는 흐름이라고 정리할 수 있다.

자본으로 묶이는 관계와 격리의 숙제

모든 관계가 여러 갈래로 나뉘는 것은 아니다. TechCrunch는 Anthropic이 상장하면 Amazon이 가장 큰 이익을 얻을 것이라고 분석했다. Amazon이 가진 대규모 전환사채가 주식으로 바뀌면서 실제 지분이 드러난다는 근거를 들었다²⁷. 이처럼 최대 클라우드 파트너가 대주주를 겸하는 경우에는 연산 공급 관계와 지배구조를 함께 봐야 한다.

공유 인프라의 운영 측면에서도 짚을 점이 있다. Cloudflare Workers AI에서 서빙하던 GLM-5.3에서는 8월 27일부터 9월 9일까지 KV 캐시(앞선 계산 결과를 저장해 다시 쓰는 메모리)가 요청 사이에 노출됐다고 전해졌다. 그 결과 응답 155건에 다른 고객의 프롬프트와 생성 내용이 섞여 나왔다³⁴. 여러 고객이 같은 하드웨어를 나눠 쓰는 환경에서는 서빙 최적화와 데이터 격리가 부딪칠 수 있다. 공급자와 구성이 다양해질수록 이런 점검 지점도 함께 늘어난다.

판매 가격이 경쟁 수단이 되는 과정

Anthropic은 미국 연방조달청(GSA)과 새 계약을 맺었다. 이에 따라 정부 고객은 Claude for Government, Claude Enterprise, Claude API를 정가보다 40% 낮은 가격에 쓸 수 있다¹. 적용 대상은 연방 기관에서 주·지방·부족·준주 정부까지 넓어졌다. Anthropic은 할인이 모든 제품에 적용되는 것은 이번이 처음이라고 설명했다. 다만 지금은 직접 구매에만 해당하고, 클라우드 사업자를 거친 구매에는 수개월 안에 확대될 예정이다.

이 발표는 OpenAI가 할인으로 기업 고객을 공략한다는 보도가 나온 직후에 나왔다. 기업 시장에서 보이던 가격 경쟁이 공공 조달로 이어진 것이다. 프런티어 모델의 가격이 성능만큼 중요한 경쟁 수단이 됐다고 볼 수 있다.

가격과 함께 수익을 어디서 거둘지도 공개 문서에 담기고 있다. AI타임스는 Anthropic 공동창업자 7명이 IPO 투자설명서에 실은 서한에서 Claude를 광고 없이 운영하겠다는 약속을 다시 밝혔다고 보도했다³. 창업자들은 광고가 매출 목표에 들어가면 사용자 참여를 무리하게 끌어올리려는 압박이 생기기 쉽다고 설명했다. 광고가 없으면 매출은 구독과 API 이용료에 더 기댈 수밖에 없다. 그래서 할인 폭과 수익 구조는 서로 맞물린 문제가 된다.

원가 압력은 연산 시장에서 온다

판매 가격이 내려가는 반대편에서 연산 원가는 오르고 있다. AI타임스에 따르면 a16z는 Ornn 지수를 바탕으로 주요 GPU 5종의 임대 가격을 공개했고, 10월 가격은 다섯 종 모두 연초보다 높았다¹⁴. 상승 폭은 H200이 약 2.6배로 가장 컸다. 출시 6년 차인 A100도 값이 올랐다. 구형 장비 임대료마저 떨어지지 않는다는 것은 연산 공급 부족이 이어지고 있다는 신호다.

이런 환경에서 칩 회사와 모델 개발사는 자본으로 관계를 묶고 있다. 인공지능신문은 NVIDIA가 Meta에 30억 달러를 투자한다고 보도했다. 두 회사는 'Muse' 모델군의 학습·추론 성능과 데이터센터 효율을 함께 최적화할 계획이다². 칩 공급사가 모델 개발사에 직접 투자하는 구조는 연산 확보와 비용 절감을 한 관계 안에서 풀려는 시도로 볼 수 있다.

현장에서는 가진 자원을 덜 낭비하는 쪽으로 대응한다. NVIDIA는 CUDA 13.4로 Kubernetes 환경에서 메모리 한도를 강제하며 GPU 한 장을 여러 워크로드가 나눠 쓰는 방법을 소개했다¹⁰. 모델을 고를 때도 비용이 기준이 된다. AWS에 따르면 Property Finder는 평가 라벨의 96.8%가 기존 모델의 출력을 그대로 이어받았다는 사실을 발견했다. 회사는 정답 데이터를 새로 만든 뒤 Bedrock에서 모델을 다시 골랐고, 비용을 86% 줄였다고 밝혔다¹³. 평가셋을 바로잡는 일이 비용 판단의 출발점이라는 점을 보여 주는 사례다.

아직 확인되지 않은 셈법

가격과 원가가 경쟁의 중심이라는 판단에는 아직 빈칸이 있다. NVIDIA의 Meta 투자는 국내 매체 보도로만 전해졌고, 투자 구조와 조건은 공식 자료로 확인되지 않았다. Anthropic의 할인도 클라우드 경유 구매로 넓어지기 전까지는 적용 범위가 제한적이다. 비용 절감 수치는 해당 기업이 밝힌 값이어서, 다른 조건에서도 같은 결과가 나올지는 따로 따져 봐야 한다.

연산 비용 부담이 어디에 쌓이는지에 대한 경고도 나왔다. 한국은행 조사국은 대형 선도 기업의 재무 상태가 좋아 금융 리스크가 생길 가능성은 크지 않다고 봤다. 다만 장기금리가 오르는 국면에서 취약성이 쌓이고 있다고 평가했다¹⁷. GPU 임대료 상승이 네오클라우드(GPU 임대 전문 클라우드)의 수익성에 어떤 영향을 줄지는 아직 단정하기 이르다.