에이전틱 RAG Agentic RAG
에이전틱 RAG는 AI 에이전트가 검색 과정을 스스로 계획하고 조절하는 RAG 방식이다. 무엇을 언제 다시 찾을지 AI가 직접 판단해서, 한 번 검색하고 끝내는 대신 여러 번 찾아보고 결과를 다듬은 뒤 답한다.
무엇이 다른가
RAG(검색 증강 생성)는 대규모 언어 모델(LLM)이 답하기 전에 외부 문서나 데이터베이스에서 관련 내용을 찾아와 참고하게 하는 기술이다. 덕분에 학습 데이터에 없는 최신 정보나 회사 내부 자료도 활용할 수 있다. 하지만 전통적인 RAG는 '질문을 받으면 한 번 검색하고, 정해진 개수의 문서를 붙여 답한다'는 고정된 순서를 따른다. 그래서 여러 단계를 거쳐 따져야 하는 복잡한 질문에는 약하다. 에이전틱 RAG는 이 흐름 안에 스스로 판단하는 AI 에이전트를 넣어서, 검색 방법과 순서를 상황에 맞게 바꿀 수 있게 한다.
어떻게 작동하나
에이전트는 먼저 질문을 보고 검색이 필요한지, 무엇을 어디서 찾을지 계획을 세운다. 검색 결과를 읽은 뒤에는 내용이 충분하고 질문과 관련이 있는지 스스로 점검하는데, 이를 '되돌아보기(리플렉션)'라고 부른다. 부족하면 검색어를 바꾸거나 다른 도구(웹 검색, 데이터베이스 조회 등)를 써서 다시 찾는다. 복잡한 일은 여러 에이전트가 역할을 나눠 맡기도 한다. 이렇게 '계획 → 검색 → 점검 → 재검색'을 반복하다가, 근거가 충분하다고 판단하면 최종 답을 만든다.
어떻게 발전해 왔나
위키백과에 따르면 'RAG'라는 용어는 2020년 한 논문에서 처음 쓰였다. 언어 모델이 답할 때 외부 기억 저장소를 검색해 함께 쓰는 방식을 제안한 논문이다. 2023년 Akari Asai 등이 발표한 'Self-RAG'는 검색이 정말 필요할 때만 검색하고, 찾은 문서와 자기 답변을 스스로 평가하도록 모델을 학습시켰다. 무조건 검색하던 방식에서 'AI가 스스로 판단해 검색한다'는 방식으로 넘어가는 중요한 발걸음이었다. 2025년 Aditi Singh 등이 낸 서베이 논문 'Agentic Retrieval-Augmented Generation: A Survey on Agentic RAG'는 계획·도구 사용·여러 에이전트 협업 같은 에이전트 기법을 RAG에 결합한 여러 방식을 모으고, 에이전트 수·제어 구조·자율성 정도 등에 따라 분류했다.
왜 주목받나
실제 업무에서 나오는 질문은 문서 하나만 찾아서는 답하기 어려운 경우가 많다. 에이전틱 RAG는 여러 자료를 오가며 단계적으로 추론할 수 있어 이런 질문에 더 잘 대응할 수 있다. 앞의 서베이 논문은 의료, 금융, 교육, 기업 문서 처리 같은 분야에서 쓰이는 사례를 정리했다. 또 RAG는 답의 출처를 함께 보여 줄 수 있어 사용자가 내용을 직접 확인하기 쉬운데, 에이전틱 방식은 이 장점을 살리면서 검색 품질을 높이는 방향으로 발전하고 있다.
알아 둘 점
검색과 점검을 여러 번 반복하므로 기존 RAG보다 답이 느리고 비용이 더 들 수 있다. 에이전트가 판단을 잘못하면 엉뚱한 자료를 계속 찾거나 불필요한 단계를 밟을 수도 있다. 위키백과에서 지적하듯, 올바른 자료를 찾아오더라도 문맥을 잘못 해석하면 틀린 답(환각)이 나올 수 있다는 RAG의 한계도 그대로 남아 있다. 서베이 논문은 성능 평가 방법, 여러 에이전트 간 조율, 기억 관리, 효율, 관리·통제(거버넌스)를 아직 풀어야 할 과제로 꼽았다.
예시
회사 내부용 AI 비서에 "지난 분기 우리 팀 프로젝트 중 예산을 넘긴 건이 있었고, 그 이유는 뭐였어?"라고 묻는 상황을 떠올려 보자. 기존 RAG라면 비슷한 문서 몇 개를 찾아 한 번에 답하려다 놓치는 내용이 생길 수 있다. 에이전틱 RAG 방식의 비서는 먼저 프로젝트 목록을 찾고, 각 프로젝트의 예산 문서를 확인한 뒤, 초과한 건에 대해서는 회의록을 다시 검색해 이유를 찾는 식으로 단계를 나눠 처리한다. 마지막으로 찾은 근거가 질문에 충분히 답하는지 점검하고, 참고한 문서를 출처로 함께 보여 준다.