AI 용어집 · 기초 · 에이전트 · 언어 모델 · 효율·인프라
Hybrid Reasoning Agents 하이브리드 추론 에이전트
하이브리드 추론 에이전트(HybridAgents)는 생각할 때는 글로 쓰지 않고 모델 내부의 숫자 표현(Hidden Representation)으로 추론하고, 도구를 부르거나 최종 답을 낼 때만 글(텍스트)로 바꿔 행동하는 AI 에이전트 구조다. 2026년 10월 arXiv에 공개된 같은 이름의 논문에서 제안됐다.
무엇이 다른가
지금의 LLM 에이전트는 대개 생각하는 과정(CoT)까지 모두 글로 써 가며 추론하고, 그 글로 도구도 호출한다. 이 방식은 사람이 과정을 읽을 수 있지만 토큰을 많이 써서 느리고 비싸다. 반대로 잠재 추론(latent reasoning)은 글을 쓰지 않고 모델 내부 표현만으로 생각해 효율적이지만, 도구를 직접 쓰기 어렵고 무슨 생각을 했는지 들여다보기 힘들다는 한계가 있다. 하이브리드 추론 에이전트는 하나의 생성 과정 안에서 두 방식을 그때그때 오가도록 해 양쪽의 장점을 합치려 한다.
세 가지 추론 방식
텍스트 기반 에이전트생각도 행동도 글로
- 과정을 사람이 읽기 쉬움
- 도구 호출이 자연스러움
- 토큰이 많아 느리고 비쌈
잠재 추론내부 표현으로 생각
- 효율적
- 도구를 직접 쓰기 어려움
- 생각을 들여다보기 힘듦
하이브리드 추론 에이전트상황에 따라 오감
- 생각은 내부에서
- 도구 호출·최종 답은 글로
- 언제 바꿀지 학습으로 익힘
어떻게 작동하나
논문에 따르면 HybridLink라는 가벼운 연결 장치가 텍스트 모드와 잠재 모드 사이의 전환을 맡는다. 에이전트는 잠재 모드에서 조용히 생각하다가, 검색 같은 도구를 불러야 하거나 최종 답을 낼 때 텍스트 모드로 넘어간다. 여러 턴에 걸친 대화와 도구 결과는 연속적인 작업 기억에 담겨, 글과 내부 표현이 섞인 맥락을 잃지 않고 이어 간다고 설명한다. 연구진은 잠재 상태의 생각도 직접 들여다볼 수 있게 설계했다고 밝혔다.
어떻게 학습시키나
사후 학습은 두 단계로 이뤄진다. 먼저 HybridSFT로 기반 모델이 HybridLink와 손발을 맞춰 도구를 섞은 하이브리드 생성을 안정적으로 하도록 가르친다. 이어 HybridRL이라는 강화학습으로 언제 속으로 생각하고 언제 글로 행동할지를 스스로 판단하도록 익힌다. 즉 '생각하는 방식'을 고르는 능력 자체를 학습 대상으로 삼은 셈이다.
왜 주목받나
에이전트는 여러 단계를 거치며 토큰을 많이 쓰기 때문에 속도와 비용이 실제 서비스의 큰 부담이다. 연구진은 3가지 모델 크기와 수학·과학·의학·검색·에이전트 추론에 걸친 11개 벤치마크에서 평가한 결과, 기존 에이전트보다 성능이 평균 10.4% 높아졌다고 밝혔다. 같은 평가에서 토큰 사용량은 35.5~54.7% 줄고, 추론 속도는 1.8~2.6배 빨라졌으며, 비용은 2.7~3.7배 절감됐다고 주장했다. 코드와 데이터도 함께 공개했다고 밝혔다.
연구진이 밝힌 결과
알아 둘 점
2026년 10월 13일 arXiv에 올라온 논문 단계의 연구이고, 위 수치는 모두 연구진이 밝힌 결과다. 다른 연구자의 재현이나 실제 제품 적용은 아직 확인되지 않았다. 참여 기관(Stanford·Together AI·UIUC·Meta)은 커뮤니티 게시글에서 전해진 내용이다. 또 '잠재 생각을 들여다볼 수 있다'는 것이 사람이 글로 된 CoT를 읽는 것만큼 쉽게 이해된다는 뜻인지는 따로 따져 봐야 한다. 내부에서 생각하는 부분이 늘어날수록 에이전트가 왜 그런 행동을 했는지 감시하기는 더 어려워질 수 있다.
예시
이 사이트에는 'Stanford·Together AI·UIUC·Meta 연구진이 Hybrid Reasoning Agents 논문을 냈고, 추론은 Hidden Representation 안에서 하고 텍스트는 도구 호출과 최종 답에만 쓴다'는 커뮤니티 전언이 소식으로 올라왔다. 예를 들어 여러 번 웹 검색을 해야 하는 질문을 받으면, 기존 에이전트는 매 단계 생각을 길게 글로 적은 뒤 검색어를 쓴다. 하이브리드 추론 에이전트는 그 생각 단계를 내부에서 처리하고, 검색어와 최종 답만 글로 내보내 토큰과 시간을 아끼는 식이다.