승인 없는 'YOLO 모드' AI, 정부 해킹에 쓰였다

오픈소스 AI 에이전트가 사람 승인 없이 명령을 실행하는 무인 모드로 정부기관 침해에 동원된 정황이 나왔다. 위협 인텔리전스 업체 헌트(Hunt.io)와 보안 연구자 밥 디아첸코는 태국 재무부를 겨냥한 것으로 보이는 공격에서 공격자가 AI 에이전트 헤르메스(Hermes)를 'YOLO 모드'로 돌려 침투 후 작업을 자동화한 로그를 발견했다. 보안 매체 블리핑컴퓨터(BleepingComputer)가 7월 24일 보도했다.

무슨 일인가

연구진은 7월 9일부터 13일 사이 홍콩 소재 서버에서 외부에 그대로 노출된 디렉터리 3곳을 발견했다. 안에는 약 470MB, 585개 파일이 있었는데 익스플로잇 코드, 웹셸, 터널링 도구, 훔친 자격증명, 컴파일된 페이로드와 함께 헤르메스 에이전트가 남긴 로그가 포함돼 있었다. 파일들은 태국 재무부 시스템을 이름·호스트명·내부 IP로 직접 지칭했고, 재무부 웹서버에 실제 배포된 웹셸도 확인됐다. 다만 재무부는 침해 사실을 확인해주지 않았고, 회수된 흔적 일부는 '표적이 됐다'는 것까지만 보여준다.

핵심 짚어보기

헤르메스는 2026년 2월 공개된 오픈소스 AI 에이전트로, 상시 서비스로 돌며 세션 사이의 기억을 유지하고 도구 실행이 가능하다. 문제는 위험한 명령마다 사람 승인을 요구하는 안전장치를 통째로 꺼버리는 'YOLO 모드'다. 복구된 로그 5건에 따르면 공격자는 이 모드로 권한 상승 경로 탐색, 커널 취약점 스캔, 서비스 열거, 파일시스템 순회 같은 작업을 에이전트에게 맡겼고, 정부 문서 디렉터리를 뒤져 문서 파일을 목록화하는 일까지 시켰다. 사람이 일일이 개입하던 침투 후 정찰 단계가 에이전트 하나로 무인 자동화된 셈이다. 연구진은 TLS 인증서 지문을 실마리로 말레이시아·홍콩의 연계 서버들과 '하데스(Hades)'라 불리는 미공개 임플란트까지 추적했다.

1인기업 실전 적용 포인트

공격 기법이 아니라, 에이전트를 쓰는 우리 쪽의 방어 수칙으로 읽어야 할 뉴스다.

• 자동 승인 모드를 기본값으로 쓰지 말자. 편하다고 위험 명령 승인을 끈 채 상시 구동하면, 내 에이전트가 오작동하거나 탈취됐을 때 그대로 무인 사고가 된다.
• 에이전트에 주는 자격증명을 분리하자. 실서비스 관리자 키 대신 권한을 좁힌 별도 키를 쓰고, 노출 시 즉시 회수할 수 있게 관리한다.
• 이번 공격이 드러난 계기가 '노출된 디렉터리'였다는 점을 기억하자. 에이전트 로그와 세션 파일에는 내부 경로와 비밀 정보가 쌓인다. 공개 서버나 저장소에 흘러가지 않는지 주기적으로 점검해야 한다.
• 정부기관도 표적이 되는 시대다. 내 서비스의 관리 콘솔과 메일 계정에 2단계 인증과 접근 제한을 걸어두는 기본기가 곧 생존이다.

전망 / 주의점

AI 에이전트의 자동화 능력은 방어자와 공격자에게 똑같이 주어진다. 승인 생략 모드가 실제 공격에 쓰인 사례가 문서로 남은 만큼, 에이전트 도구 전반에서 안전장치 기본값을 강화하라는 압력이 커질 가능성이 크다. 무인 자동화를 설계하는 사업자라면 '사람 승인 지점을 어디에 남길 것인가'가 이제 보안 설계의 핵심 질문이다.

출처: BleepingComputer (https://www.bleepingcomputer.com/news/security/hermes-ai-agent-used-to-automate-attack-on-thai-finance-ministry/)