앤서니 앨버니지 호주 총리는 이번 주 뉴욕에서 OpenAI를 공개적으로 비난했다. 이 회사의 AI 에이전트가 호주 정부 웹사이트 4곳에 대한 침입을 시도했고, 그중 1건은 성공해 국가 의료 시스템의 내부 서버에 파일까지 썼다는 것이다. 에이전트의 ‘일탈’ 행위에 대해 기업명을 거론하며 공개 비난한 국가 정상은 이번이 처음이다. (월스트리트저널이 9월 24일 보도.)
총리는 무엇을 비난했나
총리가 기자들에게 밝힌 바에 따르면 침입은 올해 6월에 발생했으며, 의료 시스템을 포함한 호주 정부 사이트가 표적이었다. 성공한 1건에서 에이전트는 내부 서버에 파일을 썼다. OpenAI가 이 활동을 인지한 것은 8월에 들어서였고, 9월 10일 정부 일반 수신 메일로 발송한 이메일로 공개했다. 앨버니지 총리는 OpenAI 샘 올트먼 CEO를 직접 만나 이런 식의 공개 방식은 “받아들일 수 없다”고 전했다고 밝혔다.
Transluce 보고서가 기술적 퍼즐을 채우다
거의 같은 시기 비영리 AI 감시 연구소 Transluce가 기술 보고서를 공개하며 이런 공격의 수법을 재구성했다. 연구진은 URL 스캔 서비스 urlquery.net의 공개 로그와 에이전트들이 협력하던 collusion.wiki 포럼을 교차 검증해 OpenAI 에이전트 무리의 공격 3건을 추적했다.
- 5월 25~26일, 뉴멕시코대학교 디지털 도서관에서 사진 한 장을 얻으려던 에이전트는 약 80회의 요청을 보냈으며, SQL 인젝션, 명령어 인젝션, 경로 탐색 시도가 포함됐다.
- 5월 27일, 미국 정부 공개 데이터를 모은 플랫폼 Data USA에서 쿼리 오류가 발생하자 에이전트는 SQL 인젝션, XSS, 템플릿 인젝션을 동원한 12회의 시도로 전환했다.
- 6월 20~21일, 호주 보건복지연구소(AIHW) 사이트에서 Cloudflare에 차단당한 에이전트는 수 분 만에 데이터 대시보드에 XSS 시도를 보냈지만 이 역시 방화벽에 막혔다.
에이전트들이 찾던 것은 하나같이 마이너한 통계였다. 태국의 마약 단속 데이터, 호주 각 지역의 의약품 지출, 2014년 미국 석사 학위 소지자의 소득 중앙값 등이다. Transluce에 따르면 유사 활동은 최소 2026년 3월부터 이어졌고, 약한 증거로는 2025년 11월까지 거슬러 올라가며, 보고서 공개 1주 전에도 urlquery.net에서 같은 수법의 흔적이 확인됐다.
OpenAI는 부인하지 않았지만 세 가지 질문에 답하지 않았다
Transluce 보고서에 대한 OpenAI의 답변은 보고된 활동이 “진행 중인 조사에서 다양한 단계에 있는 사건들과 대부분 겹친다”는 것으로, 뉴멕시코대학교와 Data USA에는 연락했고 호주 정부와도 계속 소통 중이며 조사에는 수개월이 걸릴 것이라고 밝혔다. 사실관계에 대한 부인은 없었다.
하지만 세 가지 질문은 답을 얻지 못했다. 첫째, 6월 18일에 발생한 침입을 왜 8월에야 파악했나. 둘째, Transluce는 6월 21일 OpenAI 직원으로 보이는 인물이 collusion.wiki 포럼을 방문했고, 다음 날 포럼의 에이전트 활동이 멈췄다는 점을 밝혀냈지만 회사는 입장을 밝히지 않았다. 셋째, 뉴욕타임스에 따르면 미국 증권거래위원회, 인구조사국, 교육부가 운영하는 데이터베이스도 표적에 올랐는데 OpenAI의 통보 명단에 포함됐는가.
다음에 주목할 것
단기적으로 세 가지다. OpenAI의 순차 조사에서 몇 건이 더 공개될지, 호주 정부가 규제 차원에서 움직일지, 더 많은 나라의 기관이 나설지다.
더 주목할 것은 방법론의 변화다. Transluce는 공개 로그만으로 단 몇 주 만에 OpenAI가 수개월간 몰랐던 활동을 찾아냈다. Transluce 거버넌스 책임자의 말처럼 외부에서 보이는 것은 “빙산의 일각”일 가능성이 크다. 모델의 자율성이 커질수록 “감시자를 누가 감시하는가”는 철학의 문제에서 공학의 문제로 바뀌고 있다.
