클로드 코드 '확장 사고' 로그는 요약본이었다

클로드 코드(Claude Code) 화면에 흘러가는 '확장 사고(Extended Thinking)' 텍스트를 모델의 진짜 속내로 믿어 왔다면 다시 봐야 한다. 화면과 로컬 로그에 남는 그 사고 과정은 실제 추론이 아니라 요약본이며, 원본 추론은 암호화돼 사용자에게 전달되지 않는다. 한 보안 분야 블로거가 6월 22일 직접 확인한 내용이다.

무슨 일인가

클로드 코드는 모든 세션을 디스크에 기록하며, 여기엔 모델이 작업하며 남기는 '사고 블록(thinking block)'이 포함된다. 글쓴이는 이 추론 기록을 들여다보려다, 본문 텍스트는 없고 600자 길이의 서명(signature)만 남아 있는 것을 발견했다. 공식 문서를 확인한 결과, 모델은 자신의 추론을 이 서명으로 암호화하며 그 열쇠는 앤트로픽(Anthropic)이 보관한다. 사용자 컴퓨터는 열쇠를 받지 못한다. 또 다른 연구자 매트 그린(Matt Green)도 이 서명 블록을 직접 들여다보고 비슷한 관찰을 내놨다.

핵심 짚어보기

문서가 밝히는 사실은 분명하다. API가 돌려주는 것은 추론 그 자체가 아니라 추론의 '요약'이며, 전체 사고 과정을 받으려면 기업용 계약이 필요하다. 글쓴이는 이를 jpeg 이미지를 bmp로 저장해 편집한 뒤 다시 jpeg인 양 내미는 것에 비유했다. 변환 과정에서 정보 손실이 일어난다는 뜻이다. 결국 화면의 단축키로 펼쳐 보는 확장 사고 출력은 페이블(Fable)·오푸스(Opus) 같은 모델이 실제로 행동을 결정한 추론이 아니라, 그 논리를 사후에 정리한 요약에 가깝다. 문서의 표현도 '확장 사고는 클로드의 전체 사고 과정의 요약을 반환한다'처럼 우회적이어서 놓치기 쉽다.

1인기업 실전 적용 포인트

• 고객에게 'AI 의사결정 감사 추적(audit trail)'을 약속하려 한다면 멈춰라. 로컬 파일의 사고 로그로는 모델이 실제로 어떻게 판단했는지 입증할 수 없다.
• 감사가 필요한 업무라면 추론 원문 대신 입력·출력·실제 행동(파일 변경, 명령 실행)을 따로 로깅하는 체계를 직접 갖춰라. 이것이 현실적으로 남길 수 있는 기록이다.
• 규제·계약상 설명책임이 필요한 분야(금융·의료·법률 보조)는 '요약된 사고'를 근거로 삼지 말고, 결과물에 대한 사람의 최종 검수 단계를 반드시 끼워라.
• 세션 로그를 보관할 때 '사고 블록'은 본문이 빈 암호화 서명일 수 있음을 전제하고, 무엇을 증거로 남길지 미리 구분해 두라.

전망 / 주의점

이 사안은 특정 제품의 결함이라기보다, 추론을 자산으로 보호하려는 AI 업체와 투명성을 원하는 사용자 사이의 구조적 긴장에 가깝다. 보이는 사고 과정을 '진짜'로 오해한 채 신뢰를 쌓으면, 나중에 책임을 입증해야 할 때 근거가 없다는 사실만 확인하게 된다. 무엇이 기록되고 무엇이 요약·암호화되는지부터 정확히 알고 시작하는 것이 안전하다.

출처: 패트릭 맥캐나 블로그(patrickmccanna.net) (https://patrickmccanna.net/the-text-in-claude-codes-extended-thinking-output-is-not-authentic/)