아침 브리핑 · 08:00
판단은 작은 모델로, 에이전트의 분업
AI 제품을 설계하는 단위가 하나의 범용 모델에서 역할별 전용 모델의 조합으로 바뀌고 있다. 어제 나온 제품과 연구는 에이전트의 분기 판단, 사용자 의도 파악, 디자인 계획, 학습 데이터 주석을 각각 따로 떼어 낸 모델에 맡기는 방향을 함께 가리킨다. 다만 조합의 이점은 공격자에게도 열려 있고, 자본은 여전히 가장 큰 모델 쪽으로 모인다.
판단을 떼어 내는 전용 모델
분업 흐름을 가장 분명하게 보여 준 것은 OpenAI의 'Decisions API'다. 앱 안에서 짧고 집중된 판단을 낮은 비용으로 처리하는 API로, OpenAI는 이를 어느 애플리케이션에서나 쓸 수 있는 빠르고 저렴한 결정이라고 소개했다1. TechCrunch는 TypeSafe의 판단 모델 Jev에 맞서는 OpenAI 결정 모델이 폭넓게 공개된 것으로 보도했다. 이 API는 10월 20일 음성 모델 GPT-Live가 직접 호출하는 방식으로 먼저 소개됐다. 큰 모델이 대화를 이끌고, 갈림길의 판단은 작은 모델에 넘기는 구조가 자사 제품 안에서 먼저 쓰인 셈이다. 가격과 모델 이름, 성능 수치는 아직 알려지지 않았다.
같은 날 판단의 앞 단계를 전용 모델로 떼어 낸 사례도 나왔다. China Telecom 산하 연구실은 의도 이해에 특화한 'Xing4.0-29B-Intent'를 오픈소스로 공개했다24. 量子位에 따르면 선택지에서 고르는 분류형 작업과 자유 형식으로 채우는 생성형 작업을 모두 다룬다. 의도 파악은 에이전트가 요청을 어디로 보낼지 정하는 라우팅의 첫 단계다. 결정 모델과 의도 모델이 나란히 나온다는 것은 에이전트의 판단 경로가 독립된 부품으로 정의되고 있다는 뜻이다.
같은 분업은 생성과 데이터에서도 일어난다
판단만 쪼개지는 것은 아니다. 이미지 생성과 학습 데이터 제작에서도 일을 단계별로 나누고 전용 모델을 붙이는 설계가 보인다. Canva는 첫 자체 이미지 생성 모델 'Canva Craft'를 모든 사용자에게 내놓았다3. The Verge에 따르면 이 모델은 두 단계 구조로, 이미지를 그리기 전에 디자인 구성을 먼저 계획한다. Canva는 계획 단계 덕분에 정밀도와 일관성, 제어력이 높아지고 비용은 낮아진다고 주장했다. 디자인 플랫폼이 외부 모델 대신 자기 업무 흐름에 맞춘 모델을 직접 만든 사례다.
데이터 쪽에서는 NVIDIA가 작업 영상에서 동작, 시간 구간, 성공 여부, 실패 원인을 자동으로 주석하는 오픈 모델군 'Flora'를 Hugging Face에 공개했다6. 보도에 따르면 이 모델은 휴머노이드 파운데이션 모델 GR00T 학습에 실제로 쓰였다. NVIDIA는 로봇 학습 데이터 제작 비용을 최대 125분의 1로 줄일 수 있다고 밝혔으나 비교 조건은 공개되지 않았다. Microsoft가 데이터베이스 채점 결과를 강화학습 보상으로 바꿔 에이전트를 사후학습한 ThinkingBox도 평가 역할을 별도 장치로 떼어 낸 접근으로 볼 수 있다9.
조합의 그늘과 큰 모델로 향하는 자본
분업이 늘 이로운 쪽으로만 쓰이지는 않는다. 보안 스타트업 Straiker는 해킹 그룹 'CyberCartel'이 Claude와 Grok을 포함한 여러 상용 모델을 조합해 중남미 금융기관 약 400곳을 공격했다고 밝혔다4. 보도에 따르면 AI 에이전트가 표적 정보 수집과 공격 계획, 실행을 나눠 맡았다. 방어 쪽에서도 대응이 나왔다. Anthropic은 코드 변경을 계속 분석하고 취약점이 실제로 고쳐졌는지 추적하는 'Claude Security' 새 버전을 공개 베타로 내놓았다고 AI타임스가 전했다5. 부품이 많아질수록 점검도 한 번이 아니라 지속적인 운영이 돼야 한다는 점을 보여 준다.
작은 모델로 일을 나누는 흐름이 큰 모델의 비중을 줄인다고 단정하기도 어렵다. TechCrunch에 따르면 OpenAI는 IPO에 앞서 기업가치 1조2,500억 달러를 기준으로 300억 달러를 새로 조달하는 작업을 진행하고 있다2. 한편 시장은 투자 속도를 다시 따지고 있다. 10월 22일 나스닥은 2.60%, 반도체지수는 6.7% 내렸고, 전자신문은 AI 투자 지속성 우려가 커졌다고 전했다7. 분업은 비용을 낮추는 설계지만, 그 꼭대기에 놓이는 대형 모델에 대한 투자 논리와 함께 움직이고 있다.
에이전트를 만드는 기업에게 남는 질문은 어떤 모델이 가장 큰가보다 어떤 판단을 어느 모델에 맡길 것인가에 가깝다. 역할을 나누면 비용과 지연을 줄일 수 있지만, 부품 사이의 경계와 권한을 지속적으로 점검하는 체계가 함께 있어야 한다. 앞으로는 Decisions API의 가격과 성능 공개, 그리고 중국산 결정 모델이 Microsoft·Jev보다 앞선다는 벤치마크 주장의 발표 주체와 평가 조건을 확인할 필요가 있다.