AI 메모리: 정의, 작동 방식, 저장하는 정보

AI 메모리는 대화형 AI 어시스턴트가 이전 대화에서 저장해 두었다가 새 대화에 가져와 사용자의 선호와 맥락을 기억할 수 있게 하는 정보입니다. 모델 자체는 이 정보를 전혀 보관하지 않습니다. 어시스턴트가 이를 별도로 저장해 두었다가 관련이 있을 때 다시 추가하므로, 모델은 원래라면 갖지 못했을 지속적인 맥락을 얻게 됩니다.

이 가이드에서는 어시스턴트가 이러한 정보를 어떻게 저장하고 불러오는지, 무엇을 저장하는지, 왜 때때로 잘못 기억하는지, 그리고 메모리를 확인하고 변경하거나 끄는 방법을 설명합니다.

AI 메모리란 무엇인가요?

AI 메모리는 지속 메모리라고도 하며, 이전 상호작용에서 얻은 선호, 사실, 맥락 등 사용자에 관한 정보를 저장해 두었다가 이후 대화에서 활용할 수 있게 하는 AI 어시스턴트 기능을 말합니다.

AI 어시스턴트는 사용자가 기억해 달라고 요청한 내용, 스스로 파악한 세부 정보, 다시 참조할 수 있는 이전 채팅을 바탕으로 이러한 기록을 만들어 갑니다.

AI 메모리 계층 덕분에 AI 어시스턴트는 사용자가 채팅할 때마다 선호를 알려 주지 않아도 개인화된 답변을 제공할 수 있습니다. 마라톤을 준비 중이며 킬로미터 단위를 선호한다고 어시스턴트에게 말해 두었다면, 다음에 페이스를 물을 때 다시 말하지 않아도 킬로미터 단위로 답변을 받게 됩니다.

채팅할 때마다 상황을 다시 설명하는 것과 비교하면, 메모리를 사용하면 입력할 내용이 줄고 프롬프트도 짧게 유지할 수 있습니다. 입력이 길어지면 답변의 정확도가 떨어지기 때문에 이 점은 중요합니다.

메모리는 모든 대화의 기록이 아니라 사용자에 관한 핵심 사실의 모음입니다. 따라서 사용자가 킬로미터를 선호한다는 사실은 기억합니다. 하지만 지난달 작성해 준 훈련 계획을 그대로 찾을 수 있는지는 어시스턴트가 이전 채팅도 검색할 수 있는지에 달려 있습니다.

AI 메모리의 유형

프린스턴 대학교 연구진(2024)은 인간 기억 과학의 용어를 빌려 AI 메모리 시스템의 유형을 분류했습니다. 이 프레임워크는 작업 메모리와 장기 메모리를 구분합니다:

• 작업 메모리: 모델이 현재 단계를 위해 보유하고 있는 내용으로, 지금까지의 대화와 검색해 온 모든 정보를 포함합니다. 단기 메모리라고도 합니다.
• 장기 메모리: 세션 간에 유지되는 지속 메모리입니다. 이 글에서 다루는 메모리 유형입니다.

장기 메모리는 세 가지 유형으로 구성됩니다:

• 일화 메모리: 지난달 훈련 계획을 요청했던 채팅처럼 과거 상호작용의 기록입니다.
• 의미 메모리: 킬로미터 단위 선호처럼 세상과 사용자에 관한 지식입니다.
• 절차 메모리: AI 에이전트의 동작 방식으로, 모델의 가중치와 에이전트를 실행하는 코드 및 프롬프트에 내재되어 있습니다. AI 어시스턴트에서 이에 가장 가까운 것은 시스템 프롬프트와 사용자 지정 지침입니다.

확대

AI 어시스턴트 메모리와 AI 에이전트 메모리 비교

AI 어시스턴트 메모리와 AI 에이전트 메모리는 모두 장기 메모리입니다. AI 어시스턴트 메모리는 주로 의미 메모리로, 사용자에 관한 사실을 저장해 답변을 사용자에게 맞춥니다. Perplexity의 Brain 같은 에이전트 메모리는 에이전트가 무엇을 했고 결과가 어땠는지, 무엇이 효과가 있었고 사용자가 무엇을 수정했는지를 저장하므로, 새 작업을 매번 더 나은 위치에서 시작할 수 있습니다.

AI 메모리와 컨텍스트 윈도우, 학습 데이터, 사용자 지정 지침 비교

AI 메모리는 답변에 영향을 주는 다른 세 가지, 즉 모델의 컨텍스트 윈도우, 학습 데이터, 사용자 지정 지침과 혼동하기 쉽습니다. 각각 담고 있는 정보, 유지되는 기간, 이를 제어하는 시스템이 모두 다릅니다.

컨텍스트 윈도우는 대규모 언어 모델(LLM)이 한 번에 읽을 수 있는 텍스트의 양으로, 현재 대화를 포괄합니다. 새 채팅을 시작하면 초기화됩니다.

현재 일부 모델은 100만 토큰 이상의 큰 컨텍스트 윈도우를 갖추고 있어, 기술적으로는 모든 대화에 핵심 정보를 붙여 넣을 수도 있습니다. 하지만 이를 모두 처리하면 지연 시간과 비용이 늘어납니다.

또한 여러 연구에 따르면, 답이 컨텍스트 안에 있더라도 입력이 길어질수록 출력의 정확도가 떨어지는 것으로 나타났습니다.

2025년 일리노이 대학교와 Amazon의 연구에서는 모델이 관련 세부 정보를 모두 그대로 읊을 수 있는 경우에도 이 현상이 나타났습니다. 입력이 30,000토큰으로 늘어나자 정확도가 13.9~85% 떨어졌는데, 이는 모델이 내세우는 한도보다 훨씬 낮은 수준입니다. Adobe Research와 LMU 뮌헨이 2025년에 발표한 벤치마크인 NoLiMa는 질문과 답변에 공통 키워드가 없을 때, 테스트한 13개 모델 중 11개가 불과 32,000토큰에서도 성능이 크게 떨어진다는 사실을 발견했습니다. Chroma의 2025년 7월 보고서에서도 113,000토큰 분량의 채팅 기록을 바탕으로 답변한 경우를 포함해 18개 모델 전반에서 이 현상이 확인되었습니다.

학습 데이터는 출시 전에 모델의 가중치에 반영된 정보입니다. 사용자는 이를 변경할 수 없습니다. 개발자는 새 데이터로 모델을 파인튜닝할 수 있지만, 이는 사용자 설정이 아닌 엔지니어링 과정입니다.

사용자 지정 지침은 AI 어시스턴트의 동작과 출력을 맞춤 설정하기 위해 사용자가 직접 작성하고 편집하는 규칙으로, 어시스턴트 설정에 저장됩니다. 예를 들어 사용자 지정 지침을 사용해 답변의 어조와 스타일을 정하거나 어시스턴트가 사용할 수 있는 출처를 지정할 수 있습니다.

네 가지를 비교하면 다음과 같습니다:

AI 메모리가 저장하는 정보

어시스턴트는 사실, 선호, 요약 등 사용자에 관한 일부 세부 정보를 보관하며, 일부 어시스턴트는 이전 채팅도 활용합니다.

• 기억해 달라고 요청한 사실과 선호: 사용자가 어시스턴트에게 명시적으로 저장하라고 말한 세부 정보로, 예를 들면 "내가 킬로미터를 선호한다는 걸 기억해 줘" 같은 것입니다. 어시스턴트는 요청을 받으면 메모리를 생성하며, 이 메모리는 사용자가 삭제하거나 이후 대화에서 업데이트될 때까지 유지됩니다.
• 대화에서 파악한 세부 정보: 설정이 켜져 있으면 어시스턴트가 이러한 정보를 저장합니다. Perplexity는 "사용자가 한 질문과 제공한 정보의 빈도를 중시"하므로, 한 번 언급한 내용보다 자주 언급한 내용이 기억에 남을 가능성이 더 높습니다. 이 메모리는 업데이트되거나 사용자가 삭제할 때까지 유지됩니다.
• 이전 채팅 참조: 어시스턴트가 저장된 목록 대신 이전 대화를 직접 활용합니다. Perplexity에서는 이를 검색 기록이라고 하며, 사용자의 이전 질문과 답변을 활용해 새 응답의 관련성을 높입니다.

AI 메모리의 작동 방식

AI 모델은 대화와 대화 사이에 아무것도 기억하지 않습니다. 그 역할은 AI 메모리 시스템이 맡습니다. 이 시스템은 사용자에 관한 별도의 기록을 보관하고, 새 대화마다 관련된 부분을 추가합니다. 저장과 검색은 백그라운드에서 이루어지므로, 모델은 사용자의 질문과 함께 이 정보를 읽게 됩니다.

확대

이 과정은 다섯 단계로 진행됩니다:

1. 저장: 어시스턴트는 사용자가 요청하거나 보관할 가치가 있는 세부 정보라고 판단할 때 메모리를 저장합니다.
2. 보관: 메모리는 모델과 별도로 관리되는 데이터베이스에 들어갑니다. 많은 시스템에서 이는 벡터 데이터베이스이므로 의미를 기준으로 검색할 수 있습니다. 설정에서 보이는 목록은 이 메모리 저장소를 보여 주는 화면입니다.
3. 검색: 사용자가 메시지를 보내면 어시스턴트는 어떤 메모리가 해당되는지 판단합니다. 많은 시스템은 사용자의 메시지와 각 메모리를 의미의 수치적 표현인 임베딩으로 변환한 다음 가장 근접한 항목을 골라 이를 수행합니다. 그래서 질문과 겹치는 단어가 하나도 없더라도 메모리를 불러올 수 있습니다. 더 단순한 시스템은 저장된 모든 메모리를 대화마다 불러옵니다.
4. 활용: 불러온 메모리는 입력에 일반 텍스트로 삽입되며, 보통 모델이 사용자의 메시지보다 먼저 읽는 지침 블록에 들어갑니다. 모델은 이를 입력의 다른 텍스트와 똑같이 처리합니다.
5. 업데이트 및 삭제: 어시스턴트는 채팅에서 사실을 추출하고 기존 메모리를 검색한 뒤, 이를 새 메모리로 추가할지, 기존 메모리를 업데이트할지, 기존 메모리와 병합할지, 새로 알게 된 내용과 모순되는 오래된 메모리를 삭제할지 결정합니다. 일부 어시스턴트는 새 정보와 오래된 정보를 구분하기 위해 각 메모리에 타임스탬프를 붙입니다.

AI 메모리의 과제와 위험

AI 메모리는 답변의 품질을 높이기 위한 것이지만, 벤치마크에 따르면 특히 대규모 데이터베이스에서는 메모리 검색이 관련성 있거나 최신인 정보를 항상 찾아내지는 못합니다. 또한 보안 및 개인정보 보호 위험도 있습니다.

AI 메모리와 관련된 일반적인 신뢰성 및 보안 문제는 다음과 같습니다:

• 잘못 적용된 메모리: 전혀 관련 없는 답변에 메모리가 끌려 들어갈 수 있습니다. 한 2026년 연구에서는 18개 모델을 대상으로 삶의 한 영역에서 저장된 메모리가 다른 영역의 답변에 새어 들어가는지 테스트했습니다. 실패율의 중앙값은 53%였습니다. 또한 이 연구에서는 메모리에 사용자의 신념이나 자칭 전문성이 담기면, 질문이 중립적인 답변을 요구하더라도 거의 모든 모델이 이를 그대로 따라 한다는 사실이 확인되었습니다.
• 오래된 메모리: 이후의 대화로 더 이상 사실이 아니게 된 세부 정보를 어시스턴트가 계속 근거로 삼는 경우로, 특히 사용자가 이를 명시적으로 말하지 않았을 때 발생합니다. 모델이 이러한 암묵적인 변화를 알아차리는지 테스트한 2026년 5월 벤치마크에서 최고 성능 모델의 평균 점수는 55.2%였습니다.
• 메모리 과부하: 어시스턴트가 다시 읽어야 할 내용이 많을수록 중요한 정보를 골라내기가 어려워집니다. 2024년 벤치마크인 LongMemEval에 따르면, 약 115,000토큰 분량의 채팅 기록을 읽은 모델은 관련 세션만 제공받은 모델보다 성능이 30~60% 낮았습니다.
• 메모리 포이즈닝: 예를 들어 사용자가 읽어 달라고 요청한 콘텐츠를 통해 허위 정보나 숨겨진 지침이 어시스턴트의 메모리에 들어가면, 편향되거나 안전하지 않은 답변 또는 데이터 유출로 이어질 수 있습니다.
• 개인정보 보호 위험: 메모리는 개인 정보를 원래 대화가 끝난 뒤에도, 때로는 예상보다 오래 보관합니다. 예를 들어 Perplexity는 안전 및 디버깅을 위해 삭제된 메모리의 로그를 최대 30일 동안 보관할 수 있습니다. 데이터 보호법은 저장된 메모리를 개인 데이터로 취급하므로, 사용자는 이를 검토하고 삭제할 수 있어야 합니다.

AI 메모리를 확인, 편집하고 끄는 방법

어시스턴트가 저장한 내용을 확인하고 삭제하거나, 메모리를 끄거나, 메모리를 생성하지 않는 비공개 채팅을 사용할 수 있습니다.

메모리 관리는 몇 가지 제어 기능으로 요약됩니다. 각 기능의 역할과 사용 시점은 다음과 같습니다:

완전히 새로 시작하려면 메모리를 끄고 저장된 내용을 삭제하세요.

Perplexity의 메모리 처리 방식

Perplexity 메모리는 Perplexity가 제공하는 모든 모델에서 작동합니다.

Perplexity는 두 가지 정보를 바탕으로 답변을 개인화합니다. 하나는 사용자가 공유한 선호 사항과 세부 정보인 메모리이고, 다른 하나는 검색 기록입니다. 메모리가 답변에 반영되면 해당 답변의 출처에 표시되므로, 어떤 메모리가 사용되었는지 확인하고 원하는 메모리를 삭제할 수 있습니다.

확대

자신에 대한 세부 정보를 입력하고 프로젝트에 맞춤 지침을 제공하여 답변을 개인화할 수도 있습니다(각 프로젝트에는 자체 메모리 계층이 있습니다).

확대

Perplexity는 개인 사용자 계정(Enterprise 계정에서는 절대 사용하지 않음)의 메모리 콘텐츠를 모델 개선에 사용할 수 있으며, 원하지 않으면 이 기능을 끌 수 있습니다(설정 → 기본 설정 → 인공지능의 AI 데이터 보존).

Max 및 Enterprise Max 구독자는 메모리를 기반으로 사용자의 프로젝트와 작업을 추적하는 공유 메모리 계층인 Brain도 이용할 수 있습니다. Brain에는 별도의 토글이 있으며 시크릿 세션은 무시합니다.

Perplexity를 사용해 보고 메모리가 다음 답변에 어떤 영향을 주는지 확인해 보세요.

AI 메모리 FAQ

AI에서 제한된 메모리란 무엇인가요?

IBM의 정의에 따르면 제한된 메모리 AI는 과거의 사건과 결과를 기억하고 시간에 따라 상황을 모니터링할 수 있지만, 그 데이터를 과거 경험의 장기 라이브러리에 보관하지는 못하는 AI입니다. 이는 AI 시스템 분류 체계의 네 가지 범주 중 하나이며, IBM은 챗봇과 가상 비서를 이 범주에 포함합니다.

어시스턴트 메모리는 이러한 시스템 위에 추가되는 외부 메모리입니다. 세션이 바뀌어도 유지되므로 어시스턴트는 이전 대화에서 공유한 세부 정보를 활용할 수 있습니다.

메모리가 가장 뛰어난 AI 어시스턴트는 무엇인가요?

모든 사람에게 가장 좋은 어시스턴트는 없습니다. 좋은 메모리란 직접 제어할 수 있는 메모리이므로, 다음 네 가지 질문으로 AI 도구를 평가해 보세요. 저장된 내용을 확인할 수 있나요? 메모리를 원래 채팅과 별도로 삭제할 수 있나요? 학습 설정이 메모리 설정과 분리되어 있나요? 메모리를 생성하지 않는 임시 모드나 시크릿 모드가 있나요?

AI 모델은 사용자에 대해 기억한 내용으로 학습하나요?

답변에 메모리를 사용하는 것은 학습과는 다른 과정입니다. Perplexity는 사용자의 기록을 학습 데이터로 취급하는 대신 메모리 저장소에서 관련 컨텍스트를 검색한다고 설명합니다. 사용자의 콘텐츠를 모델 개선에 사용할 수 있는지는 별도의 설정으로 결정됩니다. 개인 사용자 계정에서는 Perplexity가 메모리 콘텐츠를 이러한 목적으로 사용할 수 있으며, AI 데이터 보존 설정을 끄면 사용하지 않습니다.

확대

AI 메모리에 남기지 말아야 할 정보는 무엇인가요?

저장되거나, 사용자를 프로파일링하는 데 사용되거나, 나중에 다시 언급되기를 원하지 않는 정보는 AI 메모리에 남기지 마세요. 신원 및 금융 정보, 건강 정보, 비밀번호, 다른 사람의 정보, 어린이에 관한 모든 정보가 이에 해당합니다. 캐나다 개인정보보호위원회(2025년 5월)와 영국 국가사이버보안센터(2023년 3월)는 공개되었을 때 문제가 될 수 있는 프롬프트는 입력하지 말라고 권고합니다.

필터는 개인정보 보호 위험을 줄여 주지만 건강 정보나 금융 정보가 전혀 저장되지 않는다고 보장하지는 않으므로, 저장된 메모리를 검토하고 일회성 민감한 질문에는 시크릿 모드를 사용하세요.