AI 코딩 비용, 자동 라우팅으로 절감

여러 AI 모델을 하나의 주소로 묶어, 프롬프트마다 가장 값싸게 처리할 수 있는 모델로 자동으로 넘겨주는 오픈소스 라우팅 게이트웨이가 등장했다. 브릭(Brick)은 '모델 혼합(Mixture-of-Models)' 방식으로 쉬운 요청은 저렴한 모델에, 어려운 요청만 고성능 모델에 배분해 가장 강한 단일 모델의 품질을 그 비용의 일부만으로 낸다고 주장한다.

무슨 일인가 / 배경

브릭은 깃허브(GitHub)에 아파치 라이선스로 공개됐으며 별점 38개를 받았다. 클로드 코드(Claude Code)나 코덱스(Codex) 같은 코딩 에이전트를 쓰다 보면, 간단한 자동완성에도 가장 비싼 모델이 호출돼 요금이 새는 일이 흔하다. 브릭은 이 지점을 노린다. 프롬프트가 요구하는 '능력'과 '복잡도'를 먼저 읽고, 미리 정의해 둔 모델 풀 안에서 그 작업을 실제로 해낼 수 있는 가장 싼 모델로 요청을 보낸다. 그리고 필요할 때만 상위 모델로 자동으로 올린다.

핵심 짚어보기

핵심은 '드롭인 모델명'이다. 설정 파일(config.yaml)에 오픈AI 모델, 지엘엠(GLM), 딥시크(DeepSeek), 키미(Kimi), 큐원(Qwen) 등 서로 다른 회사의 모델을 한 번 등록해두면, 코드에서는 그냥 모델 이름을 'brick'으로만 부르면 된다. 오픈AI 호환 엔드포인트 하나로 여러 회사의 모델을 갈아끼울 수 있다는 뜻이다. 클로드 코드에 붙이는 경로도 마련돼 있다. 명령줄 도구(CLI)를 내려받아 'brick claude on'을 실행하면 라우터가 뜨고, 클로드 설정 파일에 접속 주소가 자동으로 꽂힌다. 이후 새 세션에서 모델 선택 메뉴의 'brick-claude'를 고르면 요청이 난이도에 따라 하이쿠·소네트·오푸스로 갈린다. 실행에는 노드(Node) 18 이상과 도커(Docker)가 필요하다.

1인기업 실전 적용 포인트

• 쉬운 요청과 어려운 요청의 단가를 분리한다. 문서 요약·간단 수정은 저가 모델로, 설계·디버깅만 고가 모델로 자동 배분해 월 구독·API 비용을 눌러본다.
• 여러 제공사 모델을 한 창구로 통합해, 특정 회사의 요금 인상이나 장애에 묶이지 않는 '멀티 모델' 체제를 만든다.
• 도커로 자체 호스팅하므로 코드·프롬프트가 외부 중개 서버를 거치지 않는다. 민감한 사내 코드 자동화에 유리하다.
• 먼저 저비용 작업 위주 프로젝트에 붙여, 라우팅 전후의 실제 요금 차이를 로그로 측정한 뒤 확대한다.

전망 / 주의점

자동 라우팅은 편리하지만, 저가 모델이 어려운 작업을 '할 수 있다'고 잘못 판단하면 품질이 떨어질 수 있다. 초기엔 결과를 표본 검수해 라우팅 기준을 손보는 과정이 필요하다. 또한 도커·노드 환경 구성이 익숙지 않은 완전 초보에겐 진입장벽이 있다. 다만 여러 모델을 오가며 비용을 고민하는 단계라면, 창구를 하나로 합치는 시도 자체가 관리 부담을 크게 줄여준다.

출처: 해커뉴스(Hacker News) (https://github.com/regolo-ai/brick-SR1)