컨텍스트 98.7% 줄였다는 '카리나' 공개

코딩 에이전트가 매번 되풀이해 보내는 프로젝트 설명을 줄여 주겠다는 오픈소스 도구 '카리나(Qarinah)'가 공개됐다. 개발자는 자체 벤치마크에서 입력 컨텍스트 추정치를 44만2113토큰에서 5682토큰으로 줄였다고 밝혔다. 감소율 98.71%, 압축비 77.81대 1이다.

무슨 일인가 / 배경

코딩 에이전트를 오래 쓰다 보면 요금의 상당 부분이 새 코드가 아니라 '설명 반복'에서 나온다. 프로젝트 구조, 지난 결정, 코딩 규칙을 대화마다 다시 실어 보내기 때문이다. 카리나는 이 지점을 겨냥해 로컬 프로젝트 메모리와 컨텍스트 컴파일러를 표방한다. 저장소 문구는 '컨텍스트는 줄이고, 근거는 늘린다'로 요약된다.

개발자가 제시한 절감액 계산은 이렇다. 평가 대상 작업들에서 43만6431토큰이 덜 나갔고, 캐시되지 않은 입력 토큰 100만 개당 1달러라는 단순 단가를 적용하면 해당 구간 비용이 0.4421달러에서 0.0057달러로 내려간다. 단, 이 수치는 입력 컨텍스트 한 조각에만 해당하며 출력 토큰·도구 호출·캐싱·고정 요금은 계산에서 빠져 있다. 해커뉴스에 붙은 '비용 90% 절감' 표현을 전체 청구서 감소로 읽으면 안 되는 이유다.

핵심 짚어보기

작동 방식은 검색이 아니라 편집에 가깝다. 프로젝트의 결정·규칙·맥락을 로컬에 기록해 두고, 작업마다 필요한 조각만 골라 하나의 묶음으로 다시 컴파일해 에이전트에 넘긴다. 선택된 기억은 모두 원본 위치를 가리키도록 되어 있어, 어디서 나온 근거인지 되짚을 수 있다는 점을 전면에 내세운다.

사용 흐름도 짧다. npm install --save-dev qarinah로 설치한 뒤 npx qarinah init으로 초기화하고, npx qarinah record로 결정을 한 건씩 적립한 다음 npx qarinah build로 묶고 npx qarinah query로 꺼내 쓰는 구조다. 리액트 편집, 데이터베이스 마이그레이션, 타입스크립트 리팩터링, 웹 리서치, 운영 환경 디버깅, 릴리스 작업까지 여섯 갈래에서 검증했다고 설명한다. 라이선스는 아파치 2.0이고 기술 백서와 DOI, 제노도(Zenodo) 기록까지 붙여 놨다.

다만 저장소는 커밋 44건에 별 3개, 열린 이슈 11건인 극초기 단계다. 벤치마크도 제3자 검증이 아니라 개발자 자체 측정이라는 점을 감안해야 한다.

1인기업 실전 적용 포인트

• 도구를 깔기 전에 내 비용 구조부터 재라. 지난 한 주 세션에서 '프로젝트 설명 반복'이 차지한 비중이 30%를 넘지 않으면, 압축 도구를 붙여도 체감 절감은 거의 없다.
• 이미 CLAUDE.md 같은 규칙 파일이 비대해졌다면 그것이 1순위 후보다. 매 세션 통째로 실려 나가는 문서를 결정 단위로 쪼개 기록해 두는 것만으로도 절반은 해결된다.
• 로컬 우선 설계라 코드와 내부 결정이 외부로 나가지 않는다. 고객사 코드를 다루는 1인 개발자라면 절감액보다 이쪽이 더 큰 도입 이유가 된다.
• 별 3개짜리 신생 프로젝트를 운영 파이프라인에 바로 넣지 마라. 사이드 프로젝트 한 곳에 2주 붙여 보고, 압축 전후의 실제 청구서를 캡처해 비교한 뒤 결정하면 된다.

전망 / 주의점

컨텍스트 압축은 올해 코딩 에이전트 도구 시장에서 가장 붐비는 골목이 될 가능성이 높다. 모델 요금이 내려가도, 에이전트가 자율적으로 더 많은 턴을 돌수록 반복 컨텍스트 비용은 오히려 늘어나기 때문이다. 다만 압축은 공짜가 아니다. 필요한 맥락을 잘못 잘라내면 에이전트가 이미 내린 결정을 뒤집거나 같은 실수를 되풀이한다. 절감률만 볼 게 아니라 '압축한 상태에서 작업 성공률이 유지되는가'를 함께 재는 것이 실무의 기준이 되어야 한다.

출처: 해커뉴스 경유 · 깃허브 AjnasNB/qarinah (https://github.com/AjnasNB/qarinah)