앤트로픽 AI, 차세대 암호 '호크' 보안 반토막

앤트로픽(Anthropic)이 자사 AI 모델이 만들어낸 암호분석 결과 두 건을 공개했다. 아직 일반에 공개되지 않은 상위 모델 클로드 미토스(Claude Mythos)가 포스트양자 서명 후보 호크(HAWK)에 대한 키 복구 공격과, 라운드를 줄인 AES(Advanced Encryption Standard)에 대한 공격 개선을 각각 내놨다. 존스홉킨스대 암호학 교수 매튜 그린이 자신의 블로그에서 이 결과의 의미를 짚었다.

무슨 일인가 — AI가 낸 '진짜' 암호분석

호크는 모듈 격자 동형 문제(module-LIP)라는 수학 난제에 기반한 포스트양자 서명 스킴이다. 아직 표준으로 채택되지 않은 '제안' 단계 알고리즘이지만, 차기 표준 후보 평가가 꽤 진행된 상태였다. 현재 표준화가 진행 중인 팔콘(Falcon)과 연관은 있으나, 팔콘은 다른 난제 위에 세워져 있어 이번 공격이 그대로 옮겨가지는 않는다. 앤트로픽은 결과와 함께 연구 과정을 설명한 글과 실행 가능한 공격 코드를 깃허브(GitHub)에 공개했다.

핵심 짚어보기 — '보안 반토막'의 실제 의미

이 공격은 여전히 지수 시간이 걸린다. 영화처럼 배포된 암호가 즉시 뚫리는 것은 아니다. 하지만 호크의 보안 강도를 비트 기준으로 절반 가까이 깎아냈다. 이론상 키 크기를 두 배로 키우면 막을 수 있지만, 호크의 존재 이유가 '경쟁 방식보다 효율적'이라는 점이었던 만큼 스킴 자체의 정당성이 흔들린다는 것이 그린 교수의 평가다. 공격은 논문에 그치지 않았다. 제안자들이 공개해 둔 약화된 챌린지 인스턴스를 몇 시간의 실행 시간 안에 실제로 푸는 코드로 구현됐다. 그린 교수가 특히 주목한 대목은 이 공격이 새로운 수학을 발명한 것이 아니라, 이미 알려져 있던 도구들을 확장하고 조합해 결과를 냈다는 점이다. 바로 그런 유형의 작업이 AI에 잘 맞는다는 것이다.

1인기업 실전 적용 포인트

• 당장 내 서비스의 암호를 바꿀 일은 아니다. 호크는 배포 전 제안 단계 알고리즘이고, 실서비스에서 쓰는 TLS나 정식 AES에는 영향이 없다.
• 주목할 것은 방법론이다. '기존 도구의 확장·조합'은 보안 연구만이 아니라 데이터 분석, 마케팅 실험 같은 1인기업 업무에서도 AI가 가장 잘하는 패턴이다. 무에서의 발명보다 조합 탐색형 과제를 AI에 맡기는 편이 성과가 난다.
• AI발 보안 뉴스는 앞으로 늘어난다. 보안 관련 제품이나 컨설팅을 파는 1인기업이라면 이런 1차 소스(연구 블로그·논문)를 소화해 주는 해설 콘텐츠 자체가 상품이 된다.
• 포스트양자 암호 전환을 준비 중이라면 사용하는 라이브러리의 로드맵을 확인해 두자. 표준화 중인 팔콘 계열은 이번 공격의 영향권 밖이다.

전망 / 주의점

그린 교수는 두 결과의 품질이 서로 상당히 다르다며 과잉 해석을 경계했다. AI가 암호학 전체를 위협하는 단계는 아니지만, 표준화 후보의 약점을 걸러내는 속도는 눈에 띄게 빨라졌다고 볼 수 있다. 표준 채택 전에 약점이 드러난 것은 생태계 입장에서는 오히려 다행이라는 해석도 가능하다. AI 모델이 사람 연구자들이 놓친 조합을 먼저 찾아내는 사례가 이어질지가 관전 포인트다.

출처: A Few Thoughts on Cryptographic Engineering (https://blog.cryptographyengineering.com/2026/07/29/some-notes-about-anthropics-new-results/)