Long term memory로 AI에게 기억력 주기

by

요약

AI 에이전트에 장기 메모리를 부여하여 사용자의 선호도, 경험, 규칙을 기억하게 만드는 기술에 대해 살펴봅니다. 슈퍼메모리, Mem0, Graphiti, Zep AI 등 다양한 솔루션을 소개하고, Memori SDK를 활용한 실습을 통해 장기 메모리 구현 방법을 설명합니다.

주요 내용

1. 슈퍼메모리(Supermemory) – 42억 투자받은 19세 청년의 기술

  • 배경: 19세 청년이 슈퍼메모리 서비스로 300만 달러(약 42억 원) 투자 유치
  • 핵심 개념: “AI powered second brain” – 여러 앱에 흩어진 사용자의 디지털 기억을 AI가 공유할 수 있게 함
  • 문제 인식:
    • 디지털 기억은 잊혀진다 (지난주에 뭐 했는지 AI가 모름)
    • AI는 작업 컨텍스트를 격리한다 (서로 다른 환경 간 정보 미공유)
    • 대화 내용이 공허 속으로 사라진다 (대화 세션 변경 시 기억 상실)
  • 차별점: 텍스트, 링크, 이미지, 비디오 등 여러 형태의 정보를 여러 앱에 걸쳐 모아서 저장
  • 가격: 월 $9, 무료 플랜은 200개 메모리까지 저장 가능

2. 메모리 유형: 단기 기억 vs 장기 기억

단기 기억 (Short-term Memory)

  • 한 대화 세션 내에서 유지되는 멀티턴 대화 기억
  • 예: ChatGPT에서 한 대화창 안에서 이전 대화 내용 기억
  • 한계: LLM의 컨텍스트 윈도우 제한으로 무한정 저장 불가
  • 해결: 최근 5턴, 10턴, 20턴 등 필터링 적용

장기 기억 (Long-term Memory)

  • 대화 세션을 넘어서 영구적으로 저장되는 기억
  • 인간의 뇌처럼 필요한 정보를 저장했다가 필요할 때 꺼내 씀
  • 세 가지 유형 (랭체인 분류):
    1. 시맨틱 메모리 (Semantic Memory): 사실 저장 (예: “오늘은 2025년 12월 1일”)
    2. 에피소딕 메모리 (Episodic Memory): 경험 저장 (예: “오늘 이런 일이 있었어”)
    3. 절차적 메모리 (Procedural Memory): 규칙 저장 (예: “A 작업 시 1번, 2번, 3번 원칙 따르기”)

3. 주요 장기 메모리 솔루션

Mem0

  • 장기 메모리 전문 서비스
  • 5만 명 이상 개발자 사용, GitHub 스타 43,000개
  • 간단한 SDK 설치로 메모리 저장, 업데이트, 삭제 자동 처리

Zep AI & Graphiti

  • Graphiti: 실시간 지식 그래프 기반 AI 에이전트 메모리
  • GitHub 스타 20,000개 이상
  • 작동 방식:
    • 대화에서 엔티티 추출 (예: “켄드라”, “아디다스 슈즈”)
    • 엔티티 간 관계 추출 (예: “켄드라가 아디다스 슈즈를 좋아함”)
    • 시간대 정보(temporal information)와 함께 그래프로 저장
    • 선호도 변화 추적 가능 (예: 처음엔 좋아했지만 나중엔 싫어함)
  • Neo4j, Kuzu 등 그래프 DB 활용

4. Memori SDK – 실습 중심 솔루션

  • 특징:
    • RDB(관계형 데이터베이스) 기반으로 간단함
    • 로컬에 장기 기억 저장 (오픈소스)
    • GitHub 트렌딩 레포지토리, 스타 약 10,000개
  • 핵심 파라미터:
    1. context_ingest (True): 대화 세션마다 필요한 기억을 자동으로 메시지에 덧붙임
    2. auto_ingest (True): 사용자 질문에 따라 동적으로 장기 기억 저장소에서 검색하여 컨텍스트 주입
  • 실습 결과:
    • 첫 번째 대화: “나는 한국 음식 중에서 김치찌개를 제일 좋아해”
    • 두 번째 대화 (새 세션): “내가 좋아하는 음식이 뭐야?” → AI가 “김치찌개”라고 정확히 기억
    • 공부 음악 추천 시: 사용자가 좋아하는 “뉴진스, 아이브” 정보 활용
    • AI 공부 조언 시: 사용자가 “파이썬” 공부한다는 정보 활용

5. 에이전트 스택의 진화

  • 기존: RAG (문서 검색) + 외부 API (검색 등)
  • 새로운 스택: RAG + 외부 API + 메모리 레이어
    • 사용자 선호도
    • 사용자 경험
    • 사용자가 설정한 규칙
  • 컨텍스트 엔지니어링의 중요성 증가

핵심 인사이트

  • 메모리는 AI 서비스의 차별화 요소: ChatGPT, Claude 등 주요 AI 서비스들이 메모리 기능을 도입하고 있으며, 이는 AI와의 대화를 더욱 자연스럽고 개인화된 경험으로 만듦
  • 컨텍스트 엔지니어링의 두 가지 핵심 과제:
    1. 언제, 무엇을 저장할 것인가?: 사용자의 어떤 정보를 저장하고, 어떤 엔티티와 관계를 추출할 것인지 결정
    2. 토큰 사이즈 관리: 수많은 기억 중 우선순위를 정하여 적절한 양만 컨텍스트에 주입 (최근성, 선호도 등 기준)
  • 실무 적용 가능성: 많은 AI 서비스가 아직 장기 메모리를 제대로 활용하지 못하고 있어, 이 기술을 선제적으로 적용하면 큰 경쟁 우위를 확보할 수 있음

관련 자료

Leave a Comment