장기 터미널 에이전트를 위한 에이전틱 데이터 확장

문제

기존 터미널 환경 합성 방법은 Trajectory가 짧다. 그래서 탐색, 전략 수정, 검증이 여러 단계에 걸쳐 이어지는 장기 작업 경험을 주기 어렵다. 또 환경을 만드는 과정에서 핵심 작업이 미리 완성되거나 단순화돼, 에이전트가 해야 할 탐색·구현을 건너뛰게 되는 문제도 있다.

방법

TerminalHorizon은 두 단계로 구성된다. ① Challenge-Guided Long-Horizon Synthesis: Planner, Deep Research, Construction 에이전트가 실무 자료를 바탕으로 과제를 만든다. 제작에 관여하지 않은 독립 에이전트가 이 과제를 풀어보고, 빠지거나 미리 완성된 작업을 찾아내 환경을 다시 만든다. ② Progressive Horizon Expansion: 같은 목표 아래에서 이전 결과에 의존하는 새 요구사항을 추가해 과제를 점진적으로 확장한다. 그 결과 1,535개 환경을 만들었고, DeepSeek-V4-Pro를 Teacher로 Trajectory 2,852개를 수집했다.

결과

• Trajectory 평균 길이는 52.8턴, 90번째 백분위는 98턴이었다. 같은 Teacher 조건에서 비교한 다른 합성 방법들보다 길었다.
• TerminalHorizon-27B는 기반 모델 Qwen3.5-27B보다 Terminal-Bench 2.0에서 14.2%, 2.1에서 13.85% 높았다.
• AutomationBench의 Pass Rate가 11.7%, Partial 점수가 23.3% 개선됐고, VitaBench는 11.3% 개선됐다.
• 12시간 연구 예산으로 진행한 재귀적 자기개선(RSI) 사례 연구에서, 저자들은 모델이 첫 해법 이후에도 실험을 이어가고 피드백으로 방법을 개선했다고 보고했다.

한계

SFT만 사용했고 기반 모델도 하나(Qwen3.5-27B)다. 데이터 품질은 특정 Teacher 모델(DeepSeek-V4-Pro)에 의존한다. RSI 결과는 정량 비교가 아닌 사례 연구다. 보고된 개선 폭이 절대 점수 차이인지 상대 비율인지는 제공된 본문 범위에서 확인하기 어렵다.

의미

장기 에이전트 학습에서는 데이터 양보다 과제가 실제 탐색·구현·검증을 요구하도록 설계됐는지가 중요하다는 점을 보여준다. 약 3천 개 Trajectory만으로도 효과가 있었다는 점은 데이터 구축 비용 측면에서 의미가 있다.

핵심 용어

Long-horizon Trajectory

에이전트가 수십 턴 이상 환경과 상호작용하며 과제를 끝까지 수행한 기록이다.

Independent Challenger

과제 제작에 관여하지 않은 에이전트다. 과제를 직접 풀어보며 의도한 작업이 실제로 필요한지 점검한다.

Terminal-Bench

터미널 환경에서 에이전트의 실무형 과제 수행 능력을 평가하는 벤치마크다.

원문

• arXiv 초록
• PDF
• HTML 본문
• 프로젝트
• Hugging Face

저자: Shun Zou, Ziyu Ma, Yi Zou, Yong Wang, Lin Chen, Zehui Chen, Guanhua Chen, Xiangxiang Chu, 외 · 게시 2026-10-09 · 라이선스 CC BY 4.0 · 본문 기준 분석

이 리뷰는 AI가 논문을 읽고 작성한 요약이며, 정확한 내용은 원문을 기준으로 확인해 주세요.