Route Anything: 범용 AI 시스템을 위한 모델·정책 라우팅 연구

문제

범용 AI 시스템은 언어 모델, 이미지·영상·음성 생성기, 로봇 정책 같은 여러 후보 중 하나를 입력마다 골라야 한다. 지금까지 라우팅 연구는 주로 언어 모델에만 집중했다. 그래서 모달리티 전반에서 라우팅이 실제로 이득을 주는지, 이득을 준다면 어떤 조건에서인지는 아직 밝혀지지 않았다.

방법

품질-비용 트레이드오프 아래 최적 라우팅을 다루는 이론을 세웠다. 가격을 반영한 최적 라우터 정리, 라우터가 관찰하는 정보에 따라 도달 가능한 성능이 정해진다는 '정보 사다리', 승자 대신 결과를 학습해야 한다는 명제, 품질 하한 인증을 포함한다. 실험용으로는 텍스트·이미지 QA, 이미지·영상·음성 생성, 코드·업무 에이전트, 로봇 조작을 아우르는 25개 벤치마크에서 모든 후보를 같은 입력으로 실행해 채점한 행렬(374,401회 실행)을 만들었다. 그 위에서 Qwen3.5-4B를 파인튜닝한 결과 회귀 라우터, 유형 라우터, 승자 분류 라우터를 학습해 비교했다.

결과

• 테스트 입력 19,814개에서 입력별 오라클 라우팅은 87.98점으로, 벤치마크별 최고 고정 후보(82.60)보다 5.4점 높았다. 격차는 음성 생성 0.7점부터 영상 생성·로봇 조작 18~19점까지 벌어졌고, 과제 유형별 최적 후보를 고르는 방식으로는 이 격차의 8%만 회수됐다.
• 16개 벤치마크에 하나의 capability-tree 라우터를 적용하자 79.98점으로 고정 후보(79.68)를 0.3점 앞섰다(오라클 84.80). 이득은 에이전트, 영상, 이미지 생성 쪽에서 나왔다. 반면 GenEval2와 Qwen-Image-Bench에서는 라우터 구성 124개 중 어느 것도 고정 생성기를 유의하게 넘지 못했다.
• RoboTwin 로봇 조작에서는 카메라 프레임을 보고 정책을 고르는 라우터가 성공률 71.6%를 기록했다. 최고 단일 정책(70.5%)보다 높으면서 정책 실행 시간은 24% 적었다.
• 같은 입력과 백본으로 비교했을 때, 각 정책의 성공 여부를 회귀로 학습한 라우터는 71.6%였고 승자를 분류하도록 학습한 라우터는 42.8%에 그쳤다. 승자 라벨의 94%가 지연시간 기준 동점 처리로 정해졌기 때문이다.
• 저자들은 기준 모델 대비 라우팅이 4개 테스트베드 평균 8.82배(코드 25.5배, 텍스트 QA 7.1배) 효율을 높였고, 품질 손실은 0.5점 미만이었다고 보고했다.

한계

학습된 라우터가 고정 후보를 앞선 폭은 전체 기준 0.3점으로 작았고, 이미지 생성에서는 유의한 개선이 없었다. 행렬 대부분에 비용 기록이 없어서 비용 분석은 가격이 기록된 코드·텍스트 테스트베드 위주로 이뤄졌다. 오라클 격차 일부는 어떤 상태로도 예측할 수 없는 결과 노이즈다(AA-LCR에서는 세 번 실행한 평균으로 채점하자 오라클 우위가 사라졌다). 후보 풀은 벤치마크당 3~7개로 작다.

의미

모델 하나를 키우는 대신 여러 전문 모델을 조합하는 시스템을 설계할 때 근거가 되는 연구다. 라우팅으로 얻을 수 있는 이득의 상한과 실제로 얻을 수 있는 이득을 구분해 보여준다. 실무적으로는 '승자 라벨 대신 후보별 결과를 학습하라', '같은 입력에서 후보를 비교하라' 같은 지침을 준다. 비용 절감 효과가 품질 이득보다 훨씬 크다는 점도 확인시켜 준다.

핵심 용어

라우터(Router)

입력마다 여러 후보 모델·정책 중 어느 것에 맡길지 고르는 모듈이다. 목표는 품질은 유지하거나 높이면서 비용을 줄이는 것이다.

오라클 라우팅

입력마다 실제로 가장 좋은 결과를 낸 후보를 사후에 고르는 이상적인 기준이다. 라우팅으로 얻을 수 있는 이득의 상한을 나타낸다.

정보 사다리(Information ladder)

라우터가 관찰하는 정보가 거칠수록(벤치마크 단위 → 과제 유형 → 입력 자체) 도달 가능한 성능 상한이 낮아진다는 이론적 결과다.

품질 하한 인증

별도 데이터에서 순차 검정을 거쳐, 선택한 라우터의 품질 손실이 허용치를 넘을 확률을 일정 수준 이하로 보장하는 절차다.

원문

• arXiv 초록
• PDF
• HTML 본문
• 코드
• 프로젝트
• Hugging Face

저자: Pengfei Zhou, Yixing Ma, Hexin Wang, Weidong Tang, Zhenglin Wan, Wangbo Zhao, Yang You · 게시 2026-11-03 · 라이선스 CC BY-NC-SA 4.0 · 본문 기준 분석

이 리뷰는 AI가 논문을 읽고 작성한 요약이며, 정확한 내용은 원문을 기준으로 확인해 주세요.