2026년 11월 8일

자본과 하드웨어에 붙은 가격표의 조정

가장 직접적인 신호는 자본시장에서 나왔다. Bloomberg 보도를 인용한 AI타임스에 따르면, Anthropic IPO 참여를 검토하는 투자자들은 기업가치를 1조2,000억~1조3,000억 달러로 보고 있고 일부는 1조1,000억 달러까지 낮춰 잡았다¹. 한때 거론되던 최대 2조 달러보다 약 45% 낮은 수준이다. 최근 AI 관련주 급락이 배경으로 꼽히지만, 최종 공모가는 아직 정해지지 않았고 다음 주 로드쇼는 예정대로 열린다.

하드웨어 쪽에서도 비슷한 재평가가 보도됐다. Bloomberg가 복수 소식통을 인용해 전한 바로는, Microsoft가 Oracle에서 빌린 컴퓨팅 자원을 몇 달에 걸쳐 줄였고 기존 계약도 갱신하지 않기로 했다². 2023년 인프라가 모자라 빌린 용량이지만, 구형 NVIDIA GPU가 지금 요구하는 사양에 맞지 않게 됐다는 설명이다. 보도 직후 Oracle 주가는 장중 한때 약 3% 내렸다.

두 소식은 영역이 다르지만 방향은 같다. 몇 해 전 확보 경쟁 속에서 매겨진 가치가 지금의 쓸모를 기준으로 다시 계산되고 있다는 점이다. 특히 GPU 용량은 세대가 바뀌면 가치가 빠르게 줄 수 있는 자산이라는 점이 드러났다고 볼 수 있다.

효율이 하드웨어의 쓸모를 늘리는 방식

데이터센터에서 구형 GPU의 가치가 다시 매겨지는 동안, 소프트웨어 층에서는 주어진 하드웨어에서 더 많은 성능을 끌어내려는 시도가 이어졌다. Tencent 연구진은 투기적 디코딩(작은 Drafter가 여러 토큰을 먼저 제안하고 큰 모델이 한꺼번에 검증해 추론을 빠르게 하는 기법)용 Drafter 'DSpine' 논문을 내놓았다⁴. 병렬로 뽑은 후보 토큰끼리 어긋나 수용 길이가 짧아지는 문제를 겨냥했고, 앞 토큰 정보를 더 이른 층에서 뒤 토큰에 넣는 Adjacent Causal Injection을 제안했다.

로컬 실행 쪽에서도 같은 흐름이 보인다. llama.cpp 저장소에 올라온 PR #30966 'llama_moe_cache'는 VRAM에 올라가 있지 않은 MoE Expert를 CPU에서 계산하게 하고 튜닝 스크립트를 더했다⁶. Reddit 게시자는 VRAM이 적은 환경에서 오프로딩 속도가 크게 나아진다고 소개했지만 병합 여부는 확인되지 않았다. 중국 OpenCSG도 도구 선택과 실패 복구에 맞춘 'Agentic-27B'를 공개하며 A800 GPU 한 장으로 돌린 시험 결과를 함께 냈다⁵. 다만 상업적으로 쓰려면 별도 허가가 필요하다.

세 사례는 규모를 키우지 않고 같은 연산에서 더 많은 결과를 얻는 데 초점을 둔다. 하드웨어 가격이 다시 매겨지는 국면에서 이런 기법은 보유 자원의 수명을 늘리는 수단이 된다.

규모 확장이라는 다른 선택

효율이 무게를 얻는다고 해서 규모 확장 전략이 물러나는 것은 아니다. John Langford는 블로그에서 약 50명 규모의 Microsoft Research AI Frontiers 그룹이 Microsoft AI로 재편된 뒤 해체됐다고 밝혔다³. 그는 Microsoft AI가 데이터 확보·생성·개선에 집중하는 방향이어서 그룹의 연구 방향과 함께 가기 어려웠다고 설명했고, 연구를 통한 효율 개선이 규모 확장과 별개로 큰 가치를 낼 수 있다고 주장했다. 이는 당사자 한 사람의 설명이며, 회사 측 입장은 자료에 나와 있지 않다.

이 사례는 큰 조직 안에서 규모와 효율이 자원을 두고 서로 다른 선택지로 놓여 있음을 보여 준다. 앞 절의 근거도 아직 단단하지 않다. 기업가치는 투자자들의 추정을 전한 보도이고 공모가는 정해지지 않았다. 효율 기법 역시 논문과 미병합 PR 단계여서 실제 서빙 환경에서 효과가 확인되지 않았다.