AI 용어집 · 기초 · 에이전트
에이전트 메모리 Agent Memory
에이전트 메모리는 AI 에이전트가 지금 대화나 작업에 필요한 정보, 그리고 지난 대화·작업에서 알게 된 것을 담아 두었다가 필요할 때 다시 꺼내 쓰게 하는 장치다. 모델 자체는 대화가 끝나면 아무것도 기억하지 못하므로, 바깥에서 기억을 따로 관리해 준다.
어떻게 작동하나
보통 두 층으로 나뉜다. 단기 기억은 모델이 한 번에 읽는 컨텍스트 윈도 안에 들어가는 내용으로, 지금 대화 기록과 작업 중간 결과가 여기에 있다. 장기 기억은 파일이나 벡터 DB 같은 외부 저장소에 둔 기록으로, 사용자의 선호, 이전 작업 요약, 배운 요령 등이 저장된다. 에이전트는 작업 중 기억할 만한 것을 골라 정리해 저장하고, 새 작업이 오면 관련 기억을 검색해 다시 컨텍스트에 넣는다.
왜 중요한가
기억이 없으면 에이전트는 매번 처음 만난 사람처럼 같은 설명을 다시 들어야 한다. 긴 작업에서는 컨텍스트 윈도가 가득 차서 앞에서 한 일을 잊어버리기도 한다. 메모리를 잘 설계하면 사용자 맞춤 응답이 가능해지고, 여러 날에 걸친 작업도 이어서 할 수 있다. 그래서 컨텍스트 엔지니어링에서 무엇을 기억시키고 무엇을 버릴지가 중요한 설계 주제가 되었다.
알아 둘 점
기억이 많다고 좋은 것은 아니다. 오래되었거나 틀린 기억이 다시 불려 오면 오히려 답을 망칠 수 있고, 관련 없는 기억이 컨텍스트를 차지하면 성능과 비용에 손해다. 개인 정보가 저장되므로 사용자가 무엇이 기억되는지 확인하고 지울 수 있어야 한다. 또 기억 저장소에 악의적인 내용이 섞이면 프롬프트 인젝션의 통로가 될 수 있다.
예시
여러 AI 챗봇 서비스가 사용자가 알려 준 직업이나 선호하는 답변 말투를 기억해 다음 대화에 반영하는 '메모리' 기능을 제공한다. 코딩 에이전트는 프로젝트 규칙이나 이전 작업에서 알게 된 주의 사항을 별도 메모 파일에 적어 두고, 새 작업을 시작할 때 그 파일을 먼저 읽어 같은 실수를 반복하지 않도록 한다.