컨텍스트 압축에도 안 잊는 AI 기억 엔진

AI 에이전트에게 어제 내린 결정을 오늘 또 설명해야 하는 피로가 있다. 컨텍스트가 압축되면 기억이 날아가기 때문이다. 러스트(Rust)로 짠 오픈소스 메모리 엔진 멘테DB(Mente DB)가 컨텍스트 압축에도 살아남는 클로드 코드용 영속 기억을 표방하며 베타로 공개됐다.

무슨 일인가 / 배경

멘테DB는 단순 래퍼가 아니라, 지식을 '단일 패스 트랜스포머가 먹기 좋게' 미리 소화시키는 바닥부터 만든 저장 엔진이다(아파치 2.0 라이선스). 문제의식은 세 가지다. AI는 컨텍스트를 한 번에 훑고 되읽지 못하며, 자신이 무엇을 모르는지 자각하지 못하고, 텍스트를 선형으로 읽으면서 주의는 연상적으로 흩어진다. 원문 텍스트를 그대로 쏟아붓는 방식은 잡음에 연산을 낭비한다는 것이다.

핵심 짚어보기

멘테DB는 정적 지침 파일(agent.md)의 한계를 정면으로 겨눈다. 파일은 커질수록 컨텍스트 창을 넘겨버리고, 과거 결정은 grep으로 뒤져야 하며, 모순은 뭔가 깨질 때까지 방치된다. 이에 맞서 멘테DB는 대화에서 사실·선호·결정을 자동으로 추출하고, 임베딩 기반 시맨틱 검색으로 세션을 가로질러 관련 기억을 찾으며, 지난달엔 포스트그레스라 해놓고 이번 달엔 MySQL이라 하면 모순을 즉시 표시한다. 15개 핵심 시스템 가운데 눈에 띄는 것은, 수면 중 기억을 정리하듯 백그라운드로 사실을 추출하는 슬립타임 강화와, 실수를 반복하려 할 때 경고하는 페인 시그널이다. 그리고 새 기억이 기존 것을 무효화·갱신하는지 LLM이 판정해 62개 테스트에서 100% 정확도를 기록했다는 인지 추론도 있다. 검색은 BM25에 HNSW 벡터, RRF 융합을 합친 하이브리드 방식이다.

1인기업 실전 적용 포인트

• 프로젝트 결정·거래처 규칙·과거 실수를 멘테DB에 쌓아 두면, 세션이 바뀌거나 컨텍스트가 압축돼도 '지난주에 배포 리전은 us-west-2라 정했다'를 에이전트가 스스로 기억한다.
• 노트북과 데스크톱을 오갈 때 클라우드 동기화로 같은 '뇌'를 공유한다. 기기별로 지침을 따로 관리할 필요가 없다.
• 대화 턴마다 process_turn을 한 번만 호출하면 추출·저장·검색·모순 검출이 자동 처리돼 통합 부담이 작다.
• 챗GPT·커서·코파일럿은 URL 하나로, 클로드 코드는 훅으로 매 턴 자동 연결된다. 기존 도구 스택을 바꾸지 않고 얹을 수 있다.

전망 / 주의점

아직 베타이고, '100% 정확도'는 62개 테스트라는 좁은 표본 위의 수치라 과신은 금물이다. 그러나 지침 파일 하나로 버티던 방식이 컨텍스트 한계에 부딪히는 지금, 기억을 능동적으로 관리하는 계층은 장기 자동화의 현실적 선택지로 떠오르고 있다.

출처: Mente DB (https://mentedb.com)