2026년 11월 20일, 아마존 위협 인텔리전스 팀은 AWS 보안 블로그를 통해 AI 에이전트 공격을 공개했다. 중국과 연계된 것으로 의심되는 해커 조직이 오픈소스 AI 에이전트 프레임워크 Cairn을 이용해 제로데이 취약점을 스스로 발견하고 악용해 대학 서버를 완전히 장악했다. 인터페이스를 파악한 뒤 임의 파일 쓰기까지, 에이전트에 걸린 시간은 약 11분에 불과했다. AI 에이전트가 실제 공격에서 취약점 발견부터 침입 성공까지 전 과정을 독자적으로 완수했음을 보여주는 첫 공개 증거다.
11분 동안 무슨 일이 일어났나
표적은 MONAI Label이다. 연구팀이 의료 스캔에 레이블을 붙이고 영상 모델을 훈련하는 데 쓰는 오픈소스 의료 영상 주석 도구다. 에이전트는 먼저 시스템 인터페이스를 파악한 뒤 파일 업로드 엔드포인트의 파일명 매개변수가 검증되지 않는다는 점을 찾아냈고, 경로 탐색(path traversal)으로 허용되지 않은 위치에 파일을 썼다. 인터페이스 파악부터 임의 파일 쓰기까지 11분이었다. 이후 별도 세션에서 에이전트는 파이썬 시작 시 자동 로드되는 sitecustomize.py에 리버스 셸 코드를 쓰고, 훈련 엔드포인트를 실행해 새 프로세스를 띄워 root 권한의 리버스 셸을 확보했다.
아마존이 이 공격을 발견한 것은 9월 10일이다. 공격자의 Cairn 서버는 비밀번호 없이 인터넷에 그대로 노출돼 있어 작전 기록과 프롬프트, 실행 흔적이 모두 보였다. 프롬프트는 간체 중국어로 작성됐고, 스크립트 타임스탬프는 중국 표준시로 설정돼 있었다. 표적은 중국 본토를 제외한 동아시아 여러 대학이며, 작전은 9월 8일부터 약 48시간 이어졌다. 아마존은 이를 제로데이라고 높은 확신으로 판단했다. 발견 당시 관련 수정 사항이나 보고, 보안 권고, 취약점 데이터베이스 기록이 전혀 없었기 때문이다. 반면 공격자의 정체에 대한 평가는 중간 수준의 확신에 그쳤다.
하지만 에이전트가 무적은 아니었다. 같은 작전에서 비밀번호가 없는 Redis 서버를 상대로 약 16시간, 148단계를 시도하고도 뚫지 못했고, 대학 GPU 서버도 마찬가지였다. 에이전트는 공개 자료에서 실제 사용자 이름 약 80개를 모아 3만 번이 넘는 비밀번호 조합을 시도했지만 아무것도 얻지 못했다. 실제로 뚫린 것은 기본적으로 로그인 없이 동작하고 경로 탐색 취약점을 가진 MONAI Label이었다. 에이전트가 증폭시킨 것은 원래 존재하던 설정 오류와 코드 결함이지, 침입 능력을 무에서 창조한 것이 아니다. 공격자는 이후 에이전트에게 프록시 터널을 제공해 전선을 두 번째 대학의 내부 네트워크로 넓혔는데, 그 서버도 같은 취약한 소프트웨어를 실행하고 있었다.
MONAI Label 관리자는 보안 권고를 공개했고, 수정 코드는 10월 19일 메인 브랜치에 병합됐다. 그러나 11월 21일 기준으로 수정이 포함된 새 버전은 아직 출시되지 않았고, PyPI 최신 버전은 여전히 0.8.5이며, 영향을 받는 버전은 0.8.5 이하다. MONAI Label을 계속 쓰는 기관이 지금 해야 할 일은 세 가지다. 서비스를 인터넷에 직접 노출하지 말 것, 업로드 엔드포인트에 로그인 검증을 추가할 것, 수정된 릴리스를 챙길 것이다. 같은 날 OpenAI도 자사 모델의 적대적 증류 방어책을 공개했다. 발상은 비슷하다. 공격이 성공한 뒤 복기하지 말고, 추출이 일어나는 순간 차단하라는 것이다. 공격과 방어 양쪽 모두 빨라지고 있어, 사람이 직접 대응할 시간은 줄고 있다.