에이전트 메모리란 에이전트가 여러 대화와 작업에 걸쳐 사용자에 대한 정보, 즉 선호도와 이미 내린 결정을 기억하는 능력입니다. 채팅 기록을 그대로 저장하는 것이 아니라 "사용자는 간결한 답변을 좋아한다", "지난번 결정은 A안이었다" 같은 결론을 남겨 두었다가 다음에 사용자가 반복해 설명하지 않아도 바로 활용하는 것입니다. 이해의 핵심은 경계에 있습니다. 메모리는 반복 확인을 줄여 주지만, 기억하는 것은 기억하도록 허용된 것뿐입니다.
에이전트 메모리는 세 층으로 나뉩니다. 섞지 마세요
가장 위층은 컨텍스트 창으로, 이번 대화에서 모델이 직접 볼 수 있는 텍스트이며 대화를 닫으면 사라집니다. 중간층은 장기 기억으로, 에이전트가 대화에서 사실을 추출해 기억 저장소에 기록하고 다음 대화 때 다시 꺼내 씁니다. 예를 들어 직업, 자주 쓰는 도구, 선호도 등이 있습니다. 가장 아래층은 메모리 파일 또는 사용자 프로필로, 일부 에이전트는 사용자가 자신에 대한 설명을 직접 확인하고 편집하거나 가져올 수 있게 합니다. 사용자가 직접 쓴 "사용 설명서"와 같은 것입니다. 세 층의 비용은 다릅니다. 컨텍스트가 가장 비싸고 가장 쉽게 잊히고, 장기 기억은 가장 편리하지만 잘못 꺼내면 사람을 혼동하게 하며, 메모리 파일은 가장 통제하기 쉽지만 사용자가 직접 관리해야 합니다.
에이전트 메모리와 RAG는 다릅니다
둘 다 "찾아낸 뒤 답한다"는 점은 같지만 목적이 다릅니다. RAG는 모델에 외부 지식 베이스를 연결해 답변 전에 문서를 검색하는 것으로, "모델이 모르는 것"을 해결합니다. 에이전트 메모리가 해결하는 것은 "모델이 당신이라는 사람을 모른다는 것"으로, 저장되는 것은 사용자에 대한 정보이지 일반 지식이 아닙니다. 비유하자면 RAG는 자료를 찾는 것이고, 메모리는 사람을 알아보는 것입니다. 하나의 에이전트가 둘을 동시에 쓸 수 있습니다. 문서 검색은 RAG로, 당신의 선호도 기억은 메모리로 하는 식입니다.
흔한 세 가지 오해를 먼저 바로잡겠습니다
첫째, 대화를 삭제했다고 메모리가 삭제되는 것은 아닙니다. 많은 제품이 대화 기록과 메모리를 따로 저장합니다. 대화를 지우면 채팅 화면만 사라질 뿐, 추출된 기억은 남아 있을 수 있어 메모리나 개인정보 설정에서 따로 지워야 합니다. 대화를 지웠는데도 Muse가 당신을 기억할 때의 대처법은 바로 이 구조에 따른 것입니다. 둘째, 메모리가 모델이 학습했다는 뜻은 아닙니다. 에이전트에게 말한 내용이 곧바로 가중치의 일부가 되는 것이 아니라, 그 계정 아래에 기록될 뿐이며 다른 계정에서는 존재하지 않습니다. 셋째, 메모리는 많을수록 좋다는 생각은 착각입니다. 오래된 정보를 너무 많이 쌓으면 오히려 판단을 흐립니다. 예를 들어 이직했는데도 옛 직업 기준으로 추천을 계속 받는 식입니다. 끝없이 쌓는 것보다 정기적으로 정리하는 것이 중요합니다. 메모리의 가치는 양이 아니라 정확성과 최신성에 있습니다.
같은 에이전트와 자주 교류하고 작업이 이어지는 사람이 가장 큰 혜택을 봅니다. 주간 보고서 양식, 평소의 코딩 규칙, 고정된 보고 대상 등을 한 번 기억시켜 두면 매번 다시 설명할 필요가 없습니다. 반대로 개인정보나 공용 기기, 가끔 한 번 묻는 질문 같은 경우에는 꺼 두는 것이 더 안전합니다. 판단 기준은 간단합니다. 다음 대화에서 다시 말해도 괜찮은 일이라면 기억시킬 필요가 없고, 다음에는 스스로 알아서 처리해 주기를 바란다면 그때 메모리를 켜면 됩니다.
