에이전트 메모리는 하나의 기억 상자가 아니라 현재 문맥, 실행 상태, 외부 저장소를 목적에 맞게 연결한 구조다.
대화가 길어지면 모델 입력에서 빠지는 정보가 생기고, 작업이 재개되면 어디까지 처리했는지도 복원해야 한다. 이때 모든 것을 프롬프트에 넣으면 비용과 노출 위험이 커진다. 무엇을 얼마나 오래 기억할지 먼저 나누는 것이 메모리 설계의 출발점이다.
AI 핵심 지식 52편 중 36편입니다. 제품 화면이 바뀌어도 남는 원리와 판단 기준을 다룹니다.
에이전트 기억의 세 층
| 기억 층 | 무엇을 담나 | 핵심 설계 질문 |
|---|---|---|
| 대화 문맥 | 현재 응답에 필요한 최근 메시지와 지시 | 이번 추론에 정말 필요한가 |
| 실행 상태 | 단계, 도구 결과, 승인 대기 여부 | 중단 뒤 정확히 재개할 수 있는가 |
| 외부 저장소 | 사용자 선호, 문서, 장기 사실과 이력 | 누가 언제 읽고 지울 수 있는가 |
메모리 설계 순서
- 작업을 한 번의 응답과 여러 번의 실행으로 나눈다.
- 각 정보의 사용 시점과 보존 기간을 표시한다.
- 쓰기·조회·수정·삭제 권한을 정보 종류별로 정한다.
- 오래되거나 충돌한 기억을 찾는 평가 사례를 만든다.
문맥은 저장소가 아니라 이번 추론의 작업대다
대화 문맥은 모델이 현재 응답을 만들 때 직접 보는 입력 범위다. 최근 질문, 시스템 지시, 검색 결과가 여기에 들어간다. 문맥 안에 있다고 해서 영구 보존되는 것은 아니며, 길이 제한이나 요약 과정 때문에 이전 정보가 빠질 수 있다. 반대로 장기 저장소에 있는 사실도 검색되어 문맥으로 들어오지 않으면 이번 답변에는 영향을 주지 못한다. 따라서 '기억한다'는 표현보다 '어디에 저장되어 어떤 조건에서 다시 입력되는가'를 물어야 정확하다.
회의 요약 에이전트라면 오늘 회의 발언은 문맥에 두되, 확정된 의사결정만 별도 기록으로 승격한다. 다음 회의에서는 전체 대화를 재주입하지 않고 관련 결정과 미해결 항목만 검색해 넣는다. 이 내용을 적용할 때는 에이전트 메모리는 무엇을 기억하나: 대화 문맥·상태·외부 저장소의 차이이라는 이름만 문서에 적지 말고, 입력이 무엇인지, 어떤 변환이나 판단이 일어나는지, 결과를 누가 확인하는지, 실패하면 어디에서 멈추는지를 함께 기록해야 한다. 그래야 같은 용어를 쓰면서 서로 다른 시스템을 상상하는 문제를 줄일 수 있다.
상태는 작업을 재개하기 위한 체크포인트다
실행 상태는 사용자의 취향 같은 장기 사실과 다르다. 현재 단계, 이미 호출한 도구, 생성된 파일 식별자, 승인 대기 지점처럼 워크플로를 다시 이어가기 위한 값이다. 상태가 없으면 오류 뒤 처음부터 반복하거나 같은 외부 행동을 두 번 실행할 수 있다. 상태에는 결과뿐 아니라 시도 식별자와 완료 여부를 함께 남겨야 중복 실행을 막을 수 있다. 민감한 도구 출력 전체를 저장하기보다 재개에 필요한 최소 참조와 검증 가능한 요약을 남기는 편이 안전하다.
결제 요청을 예로 들면 금액과 수신자 검증 단계, 승인 상태, 중복 방지 키를 체크포인트에 둔다. 승인 전에는 전송 단계로 넘어가지 않고, 재시작 뒤에도 이미 완료된 요청인지 확인한다. 이 내용을 적용할 때는 에이전트 메모리는 무엇을 기억하나: 대화 문맥·상태·외부 저장소의 차이이라는 이름만 문서에 적지 말고, 입력이 무엇인지, 어떤 변환이나 판단이 일어나는지, 결과를 누가 확인하는지, 실패하면 어디에서 멈추는지를 함께 기록해야 한다. 그래야 같은 용어를 쓰면서 서로 다른 시스템을 상상하는 문제를 줄일 수 있다.
외부 저장소는 쓰기보다 조회 정책이 중요하다
장기 메모리는 데이터베이스, 벡터 검색 색인, 문서 저장소처럼 모델 밖에 존재한다. 많이 적재한다고 유용해지는 것이 아니라, 현재 질문과 관련 있고 신뢰할 만한 기록을 골라 문맥에 넣을 때 가치가 생긴다. 저장 시점의 출처, 작성자, 갱신일, 적용 범위를 함께 기록해야 오래된 선호와 최신 정책이 충돌할 때 우선순위를 판단할 수 있다. 검색 유사도 하나만으로 자동 채택하면 비슷하지만 다른 고객의 사실이나 폐기된 지침이 섞일 수 있다.
고객 지원에서는 계정별 사실과 공통 정책을 별도 영역에 두고 접근 범위를 강제한다. 검색 결과에는 출처와 갱신일을 붙이며, 답변 전에 현재 정책인지 확인하는 규칙을 둔다. 이 내용을 적용할 때는 에이전트 메모리는 무엇을 기억하나: 대화 문맥·상태·외부 저장소의 차이이라는 이름만 문서에 적지 말고, 입력이 무엇인지, 어떤 변환이나 판단이 일어나는지, 결과를 누가 확인하는지, 실패하면 어디에서 멈추는지를 함께 기록해야 한다. 그래야 같은 용어를 쓰면서 서로 다른 시스템을 상상하는 문제를 줄일 수 있다.
좋은 메모리는 잊기와 정정까지 설계한다
기억의 품질은 저장량보다 정정 가능성과 수명 관리에서 갈린다. 사용자가 선호를 바꾸거나 정책이 개정되면 이전 기록을 덮어쓰기만 할지, 이력을 남길지, 특정 시점 기준으로 조회할지를 정해야 한다. 개인정보나 일회성 비밀은 애초에 장기 기억 후보에서 제외하고, 보존 목적이 끝난 정보에는 삭제 조건을 둔다. 잘못된 기억이 답변을 바꾸는 테스트, 서로 충돌하는 기록이 들어오는 테스트, 저장소가 응답하지 않을 때의 축소 동작도 평가해야 한다.
운영 체크리스트에는 저장 허용 목록, 만료 시간, 사용자 정정 경로, 출처 없는 기억의 사용 금지, 저장소 장애 시 안전한 기본 동작을 포함한다. 삭제 요청이 색인과 원본 모두에 반영되는지도 확인한다. 이 내용을 적용할 때는 에이전트 메모리는 무엇을 기억하나: 대화 문맥·상태·외부 저장소의 차이이라는 이름만 문서에 적지 말고, 입력이 무엇인지, 어떤 변환이나 판단이 일어나는지, 결과를 누가 확인하는지, 실패하면 어디에서 멈추는지를 함께 기록해야 한다. 그래야 같은 용어를 쓰면서 서로 다른 시스템을 상상하는 문제를 줄일 수 있다.
판단 체크리스트
- 정보마다 문맥·상태·외부 저장소 중 한 위치를 정했는가
- 쓰기와 읽기 주체, 보존 기간, 삭제 조건이 있는가
- 기억의 출처와 갱신일을 답변 근거까지 추적할 수 있는가
- 충돌·노후화·저장소 장애를 포함한 평가 사례가 있는가
자주 생기는 오해
- 문맥 창이 크면 장기 메모리가 필요 없다 — 큰 문맥도 보존·정정·접근 통제와 적절한 검색을 대신하지 못한다.
- 벡터 검색 결과는 곧 사실이다 — 검색은 후보를 고를 뿐이며 출처, 최신성, 적용 범위를 별도로 검증해야 한다.
메모리 문제를 가르는 경계
| 상황 | 해석 | 다음 행동 |
|---|---|---|
| 최근 지시를 놓친다 | 문맥 구성 또는 요약 문제일 가능성 | 입력 직전 메시지와 잘린 구간을 재현한다 |
| 중단 뒤 같은 행동을 반복한다 | 체크포인트와 중복 방지 문제 | 단계·시도 식별자·완료 상태를 점검한다 |
| 오래된 사실을 확신해 답한다 | 장기 저장소의 출처·수명 문제 | 갱신일과 충돌 해결 규칙을 추가한다 |
자주 묻는 질문
대화 요약도 메모리인가?
요약이 다음 추론에 재사용되면 메모리 역할을 한다. 다만 원문을 압축한 파생 기록이므로 누락과 왜곡을 평가해야 한다.
사용자 선호는 항상 저장해야 하나?
아니다. 명확한 목적과 동의, 보존 기간이 있고 서비스에 실제로 필요한 선호만 최소 범위로 저장한다.
상태와 로그는 같은가?
상태는 재개에 필요한 현재 값이고 로그는 사건의 이력이다. 겹칠 수 있지만 보존 목적과 접근 권한이 다르다.
메모리 품질은 어떻게 평가하나?
관련 기록 회수, 잘못된 기록 배제, 정정 반영, 충돌 해결, 삭제 반영을 과제별 사례로 나눠 확인한다.
관련 좌표
작성·검증 정보
- 작성·검토: AI좌표 편집부
- 원문 확인일: 2026-07-27
- 다음 재검토일: 2026-10-31
- 재검토 조건: 원 논문의 정정·철회, 표준 정의 변경, 장기 평가에서 핵심 반례가 확인될 때