EviSkill: 재실행 가능한 증거에 기반한 에이전트 스킬 진화

문제

LLM 에이전트는 모델 파라미터를 바꾸지 않고 상호작용 경험에서 재사용 가능한 스킬 문서를 만들고 고칠 수 있다. 그런데 기존 경험 기반 방법은 수정의 근거가 된 행동 증거와 맥락을 잃어버린다. 또 전체 검증에서 탈락한 수정안을 통째로 버리기 때문에, 그 안의 유효한 개별 수정까지 함께 사라진다.

방법

세 단계로 구성된다. (1) 증거 기반 수정 생성: LLM이 궤적에서 수정 제안과 그 근거가 되는 궤적 구간을 Replayable Evidence Card로 기록하고, 카드를 묶어 후보 수정을 만든다. (2) 재실행 검증: 근거 구간 직전까지의 상태를 복원한다. 그 상태에서 수정된 스킬로 해당 구간을 다시 실행하고, LLM 평가자가 accept·reflect·reject를 판정한다. reflect면 피드백을 반영해 수정한다. (3) 에폭 간 증거 전파: 검증 세트 성능이 오를 때만 Validated Skill을 갱신한다. 탈락한 경우에도 재실행으로 지지되는 수정은 Provisional Edit Ledger에 잠정 보관해 다음 에폭의 Working Skill에 반영하고, 미해결 카드도 이월한다.

결과

• 예비 연구에서 Trace2Skill이 생성한 수정을 원 과제에 다시 실행했더니 결과가 엇갈렸다. 개선, 무변화, 악화가 모두 나타나 궤적에서 나온 수정이 개선을 보장하지 않음을 보였다.
• 전체 검증에서 탈락한 수정안 중 일부 수정만 골라 남기면, 관련 과제에서 직전 검증 스킬보다 성능이 좋아질 수 있음을 보였다.
• 저자들은 상호작용 벤치마크 3종과 LLM 백본 6종에서 기존 스킬 진화 기준선(Trace2Skill 등) 대비 일관된 향상을 보고했다. 분석에서는 재실행이 근거 없는 수정을 걸러내고, 에폭 간 전파가 이후 정제에 기여했다고 밝혔다.

한계

제공된 본문이 방법 설명 도중에 끊겨 본 실험의 벤치마크 이름과 수치는 확인하지 못했다. 증거 추출·수정·평가를 모두 LLM이 맡으므로, 판정 품질이 해당 LLM에 의존한다. 재실행에는 궤적 앞부분을 재현해 상태를 복원할 수 있는 환경이 필요해 적용 가능한 환경이 제한될 수 있다. 재실행에 따른 추가 비용도 따른다.

의미

에이전트 스킬을 자동으로 고칠 때 '왜 이 수정이 정당한가'를 추적·검증할 수 있게 해준다. 잘못된 수정이 누적되는 위험을 줄이는 실용적인 설계 패턴이다.

핵심 용어

스킬 진화(Skill Evolution)

에이전트가 사용하는 절차 지침 문서(스킬)를 실행 경험을 바탕으로 반복 수정하는 과정이다. 모델 가중치는 바꾸지 않는다.

Replayable Evidence Card

제안된 스킬 수정과 그 근거가 된 궤적 구간(과제, 에폭, 시작·끝 스텝)을 함께 기록한 단위다. 나중에 그 구간을 재실행해 검증할 수 있다.

Provisional Edit Ledger

전체 검증에는 아직 통과하지 못했지만 재실행으로 지지된 수정을 잠정 보관하는 목록이다. 다음 에폭에서 계속 시험·정제된다.

원문

• arXiv 초록
• PDF
• HTML 본문
• 코드
• 프로젝트
• Hugging Face

저자: Yan Zhou, Yili Wang, Yiwei Dai, Qinggang Zhang, Xin Wang · 게시 2026-10-04 · 라이선스 CC BY 4.0 · 본문 기준 분석

이 리뷰는 AI가 논문을 읽고 작성한 요약이며, 정확한 내용은 원문을 기준으로 확인해 주세요.