오후 브리핑 · 16:00
업무 단위로 묶이는 기업용 AI
작성자 · bombong
오늘 오후 소식에서는 기업용 AI 경쟁의 단위가 모델 하나에서 업무 흐름 전체로 넓어지는 모습이 보인다. Alibaba와 ByteDance는 업무용 AI에 외부 모델 선택 기능과 직무별 묶음을 더했다. OpenAI는 병원이 이미 쓰는 소프트웨어를 직접 다루는 에이전트의 평가 결과를 내놨다. 공급자들의 관심이 성능 경쟁에서 어느 업무에 누가 얼마의 비용으로 쓰게 할지로 옮겨 가고 있다.
업무 플랫폼이 모델을 고르는 자리에 서다
가장 분명한 신호는 중국 빅테크의 업무용 AI 제품에서 나왔다. Pandaily 보도에 따르면 Alibaba는 기업용 업무 도구 QwenWork에서 자사 Qwen뿐 아니라 Kimi(Moonshot AI), GLM(Zhipu AI), DeepSeek 등 다른 회사 모델도 고를 수 있게 했다27. 관리자는 모델별 접근 권한을 부서·그룹·구성원 단위로 정할 수 있다. 모델 회사가 자사 플랫폼에 경쟁사 모델을 들였다는 것은 기업 고객이 모델 하나의 성능보다 여러 모델을 한곳에서 관리하는 기능을 더 중시한다고 판단했기 때문으로 볼 수 있다.
ByteDance는 다른 방향에서 같은 지점을 겨냥했다. Pandaily는 ByteDance의 Doubao Work에 21개 전문 업무 시나리오별 워크벤치가 추가됐다고 전했다32. 워크벤치는 시나리오마다 필요한 스킬과 도구를 하나로 묶은 것이다. 사용자는 직접 만든 구성을 저장해 다른 사람과 나눌 수 있다. QwenWork가 누가 어떤 모델을 쓰는지를 관리한다면, Doubao Work는 업무마다 어떤 도구를 함께 쓸지를 정리한다. 이 흐름은 아침 브리핑이 다룬 비용 관리 경쟁과도 이어진다. 사용 권한을 나누고 구성을 다시 쓰게 하는 기능은 기업이 AI 사용량을 통제하는 수단이 되기 때문이다.
현장의 소프트웨어와 비용 구조에 맞추다
업무 단위로 다가가는 움직임은 특정 산업과 개발자 시장에서도 나타난다. 국내 매체 보도에 따르면 OpenAI는 16일(현지시간) 의료기관용 컴퓨터 사용 에이전트의 평가 결과를 공개했다24. 평가에는 전자의무기록(EHR) 관리, 보험 사전승인, 진료 의뢰, 퇴원 준비 같은 병원 행정 업무가 쓰였다. 핵심은 에이전트가 의료진이 이미 쓰는 소프트웨어를 그대로 조작해 일을 처리하는지였다. OpenAI는 의료진이 검토한 작업 325건 가운데 99%가 임상적으로 안전하다는 판정을 받았고, 의료 행정 벤치마크에서는 최대 94.3%를 기록했다고 밝혔다. 새 시스템을 들이게 하지 않고 기존 업무 환경 안으로 들어가는 방식이라는 점에서 앞 절의 업무 플랫폼과 같은 방향이다.
과금 구조도 작업 흐름에 맞춰지고 있다. Pandaily 보도에 따르면 ByteDance는 Seedance 2.5의 4K 영상 생성 API를 정식으로 열었다26. 'Draft 모드'로 480p 미리보기를 먼저 확인하고, 4K 렌더링에는 요금을 따로 받는다. 시안을 여러 번 고치는 영상 작업에 맞춰 비싼 연산은 필요할 때만 쓰게 한 구조다. 국내에서는 업스테이지가 규제 산업·공공 부문에 특화한 Cohere와 제휴했다고 밝혔다31. 두 회사는 국내·아태 기업용 시장을 함께 공략하고 소버린 AI 공동 모델 개발도 추진한다. 규제가 까다로운 고객일수록 모델의 순위보다 어떻게 배치하고 요건을 맞추는지가 먼저 문제가 된다는 점에서 같은 맥락에 놓인다.
검증과 정보가 아직 따라오지 못한 부분
다만 이런 움직임이 실제 도입으로 이어지는지 판단할 근거는 아직 적다. OpenAI의 99%와 94.3%는 회사가 직접 진행한 평가에서 나온 수치이고, 외부 검증을 받았는지는 보도에 나오지 않는다. 표본도 325건이어서 병원이 도입을 결정하려면 독립 평가가 필요하다. AI가 업무 현장 깊숙이 들어갈수록 안전성 주장을 누가 확인하느냐가 더 중요해진다.
중국 업무 플랫폼 소식은 모두 한 매체의 보도에 기대고 있다. Doubao Work의 제공 지역과 요금, Seedance 2.5의 구체적인 가격도 알려지지 않았다. 여러 모델을 묶어 쓰는 방식이 기업의 비용과 관리 부담을 실제로 줄이는지는 요금표와 운영 사례가 나와야 판단할 수 있다. 업스테이지·Cohere 제휴 역시 공동 모델이 아직 개발을 추진하는 단계로 발표됐다.
실무자가 기업용 AI를 고를 때는 모델 순위만큼 권한 관리, 기존 시스템과의 연결, 단계별 과금 구조를 함께 따져야 한다. 앞으로 OpenAI 의료 에이전트에 대한 독립 평가가 나오는지 확인할 필요가 있다. QwenWork와 Doubao Work의 요금과 제공 범위가 공개되는지, Seedance 2.5의 4K 렌더링 가격이 얼마로 정해지는지도 지켜볼 일이다.
이 글은 AI로 초안을 쓰고, 인용한 공개 자료와 출처·수치를 대조하는 검증을 거쳐 발행했으며, 발행 뒤 운영자가 다시 검토합니다. 필자의 해석이 포함되어 있습니다. 작성·검수 방식 · 정정 기록
아침 브리핑 · 08:00
한도와 캐싱, AI 비용 관리 경쟁
작성자 · bombong
생성 AI 경쟁의 무게가 기능을 얼마나 많이 주느냐에서 사용량을 어떻게 재고 아끼느냐로 옮겨 가고 있다. Apple은 운영체제에 들어간 AI 기능에 기기별 하루 한도를 시험하기 시작했다. AWS와 Microsoft Research는 코딩 에이전트가 쓰는 토큰을 줄이는 방법을 나란히 내놓았다. 소비자 제품과 개발 도구라는 서로 다른 층위에서 같은 계산이 시작됐다는 점이 오늘 소식의 공통분모다.
소비자 기기에 들어온 사용량 한도
Apple이 16일 내놓은 iOS 27.3 등의 베타에서 일부 Siri AI와 Apple Intelligence 기능에 기기 단위 일일 사용 한도를 시험하고 있다고 The Verge가 MacRumors를 인용해 보도했다3. 기본 Siri 명령과 요청은 계속 무료·무제한이고, 더 복잡한 기능만 한도 대상이다. 다만 한도를 넘었을 때 어떻게 과금하는지, 정식 버전에도 적용되는지는 아직 확인되지 않았다.
이 소식이 중요한 이유는 운영체제에 내장된 AI 기능도 '쓴 만큼'의 논리 안으로 들어오고 있기 때문이다. 기기 값에 포함된 기능처럼 여겨졌던 AI도 요청이 복잡해질수록 연산 비용이 늘고, 누군가는 그 비용을 관리해야 한다. Apple은 앞서 Logic Pro에 Intelligence 사용량 팩을 도입한 바 있다. 따라서 개별 앱에서 시작한 사용량 관리가 운영체제 수준으로 넓어지는 과정으로 볼 수 있다. 단순 명령과 고급 기능을 나눈 구조는 다른 소비자 AI 서비스가 참고할 만한 설계이기도 하다.
개발 현장은 토큰과 GPU를 아끼는 기술로 대응한다
기업과 개발자 쪽에서는 같은 비용 압력이 토큰 절감 기술로 나타난다. AWS는 Bedrock의 오픈 웨이트 모델에서 쓸 수 있는 프롬프트 캐싱(이미 처리한 입력을 저장해 다시 쓰는 기법) 활용법을 공개했다6. Chat Completions API로 암묵적·명시적 캐싱을 쓰는 두 방식을 설명하고, OpenCode 코딩 에이전트 세션에 적용한 예를 보였다. Microsoft Research의 TokenEconomizer는 접근이 다르다12. 개발자가 같은 저장소와 작업으로 되풀이해 돌아온다는 점에 착안해, 에이전트가 이전 세션의 경험을 학습하고 이후 세션을 효율화하도록 한다.
두 소식은 모두 코딩 에이전트를 겨냥한다. 에이전트는 세션마다 지시문, 도구 설명, 세션 기록을 모델에 다시 보내므로 작업이 길수록 입력 비용이 불어난다. 캐싱이 반복되는 컨텍스트를 줄인다면, TokenEconomizer는 세션과 세션 사이에서 생기는 낭비를 겨냥한다는 점에서 서로를 보완한다. AWS가 공개한 Bedrock AgentCore 도입 사례에서도 Duco가 MCP(모델이 외부 도구를 호출하는 표준 규약) 스킬 구조로 컨텍스트 오버헤드를 90% 줄이고 대사 배포 시간을 10배 단축했다고 AWS는 밝혔다7.
GPU 단위에서도 같은 계산이 이뤄진다. NAVER는 SNOW의 16개 이미지 AI 서비스에서 모델을 바꾸지 않고 서빙 구조만 고쳐 H100 환산 약 67장을 절감했다고 밝혔다17. 토큰이든 GPU든, 이미 가진 자원을 얼마나 덜 낭비하느냐가 실무 경쟁력의 한 축이 되고 있다.
효율 개선이 총량을 줄인다는 보장은 없다
다만 이 흐름을 비용 문제가 풀리고 있다는 뜻으로 받아들이기는 이르다. 우선 효율 개선의 근거가 아직 얇다. TokenEconomizer는 수집 자료에 절감 수치가 없고, Duco의 수치는 AWS 블로그가 전한 것이다. Apple의 한도도 베타 단계의 시험이어서 실제 한도 수준과 유료 구독 연계 여부는 정해지지 않았다.
또 요청 하나하나를 아끼는 노력과 별개로 전체 연산 규모는 계속 커지고 있다. NVIDIA는 클라우드 사업자 Lambda가 광학 부품을 스위치 칩과 한 패키지에 넣은 NVIDIA Photonics CPO 스위치로 1만 개가 넘는 GPU로 이뤄진 GB300 NVL72 랙들을 연결하고 있다고 밝혔다8. The Verge가 전한 Nature Sustainability 논문은 미국 하이퍼스케일 데이터센터의 전력 사용 합계가 많은 국가의 소비량보다 많을 것으로 추정했다. 이 논문은 이들 시설의 가장 큰 전력원이 여전히 화석연료라고도 짚었다15. 단위당 효율이 좋아져도 사용량이 더 빨리 늘면 총비용과 전력 부담은 줄지 않을 수 있다. 이런 점에서 사용량 관리는 비용 압력을 해결했다는 증거라기보다 그 압력이 커졌다는 신호에 가깝다.
실무자에게 오늘 소식이 주는 의미는 분명하다. AI 도입을 검토할 때 성능표만큼 사용량 구조도 따져 봐야 한다. 어떤 요청이 한도나 과금 대상이 되는지, 반복되는 컨텍스트를 캐싱으로 줄일 수 있는지, 서빙 구조에 낭비는 없는지가 운영비를 가른다. 앞으로는 Apple Intelligence 한도의 정식 적용과 유료 플랜 연계 여부, Hugging Face·OpenRouter 협력의 과금 구조, 그리고 AI 인프라 수요 전망이 드러날 NVIDIA 3분기 실적 발표를 확인할 필요가 있다.
이 글은 AI로 초안을 쓰고, 인용한 공개 자료와 출처·수치를 대조하는 검증을 거쳐 발행했으며, 발행 뒤 운영자가 다시 검토합니다. 필자의 해석이 포함되어 있습니다. 작성·검수 방식 · 정정 기록
확인 중인 소식 6
공식 출처로 아직 확인되지 않은 소식입니다. 사실 확인 전이니 원문을 함께 보세요.
- 中 Future Doctor "MedGPT, 복잡한 폐암 사례 비교 88%에서 의사보다 높은 점수"…AI 심사·자체 발표(Pandaily 보도) 원문
- Docker 'Sandbox Kit' 사양: AI 에이전트 권한을 OCI 이미지로 묶어 배포(InfoQ China 보도) 원문
- "Windows 11, 사용 중인 코딩 에이전트·개발 도구 정보 수집"…선택적 진단 데이터 켜면 Microsoft 전송 대기열로(커뮤니티 분석 전언) 원문
- Maxwell 팀, MoE 모델 'Maxwell-V1-Flash' Hugging Face 공개…총 35B·활성 3B, 문맥 256K, 블록 희소 어텐션 'MBSA'(커뮤니티 전언) 원문
- "Google, '자율 공격 시대가 왔다'며 은행·항공사 등 178개 기업 피해 확인" 공유(커뮤니티 전언, 미확인) 원문
- Megaspeed 후속: "미 상무부·법무부, 2024년부터 Megaspeed 조사…NVIDIA는 2025년 6월 거래 금지 목록에 올려" 공유(커뮤니티 전언, 미확인) 원문
커뮤니티 화제 5
Reddit·Hacker News·GeekNews 등에서 많이 이야기된 주제입니다. 커뮤니티의 반응이며 사실 확인 전 내용이 섞여 있을 수 있습니다.
- Qwen 4 오픈 웨이트 LocalLLaMA에서 Qwen 4 소형 오픈 웨이트 모델(27B 등)이 언제 나오는지, Qwen 4가 마지막 오픈 세대가 될지를 두고 비관론과 반박 글이 번갈아 올라온다. Qwen4-Max가 Artificial Analysis 지수에서 9점 오르고 작업당 비용을 67% 줄였다는 공유도 화제다.
- Claude로 Blender 3D 제작 Claude Fable 5.2에 Blender 공식 MCP로 Python을 쓰게 해 에펠탑과 파리 풍경을 사흘간 만든 사례, 바운싱 볼 애니메이션을 한 번에 만든 사례, 2차대전 부대사 책을 인터랙티브 3D와 검색 가능한 명부로 재구성한 사례가 잇따라 공유됐다.
- AI 생성 증명·테스트 검증 AI가 만든 Lean 증명을 믿으려면 명제 일치·컴파일·공리·커널 버그까지 확인해야 한다는 글이 공유됐고, OpenAI가 공개한 Lean 정리 290개 중 약 38개는 논문 핵심 정리를 기술하지 않는다는 지적이 나왔다. 에이전트 버그 수정 PR의 테스트가 수정 전 코드에서도 통과하는지 확인하는 도구 'redfirst'도 화제다(에이전트 14% vs 사람 9%, 통계적으로 유의한 차이는 아님).
- AI 미래 서사 논쟁 올트먼이 Semafor 행사에서 '사람이 주도권을 잃는 대가로 암 치료를 주겠다'는 식의 설명은 끔찍한 홍보라고 말한 발언, 오바마의 모델 자기개선·정렬 우려 발언, 연준 의장의 AI 성장·대량 실직 시나리오 모델링 소식이 함께 회자된다.
- 기업의 오픈 웨이트 모델 사용 기업에서 오픈 웨이트 모델 사용 비중이 7월 거의 0에서 30%까지 늘었고 주로 대량 배치·코딩 등 비용 절감용이라는 공유가 나왔다. 추론 제공자 경유 시 검열 오류를 겪고 로컬 LLM으로 돌아섰다는 글, 작은 Gemma 4 토크나이저 수정 소식도 함께 오르내린다.