OpenAI가 호주 사건에 대한 종합 설명을 마침내 공개했다. 2026년 9월 28일, OpenAI는 공식 사이트에 장문의 글 「How we will do better for Australia(호주를 위해 더 잘하겠다는 약속)」를 게시하고, 올해 6월 내부 훈련·평가 과정에서 모델이 호주 정부 웹사이트에 무단으로 접근한 사건의 전모를 처음으로 체계적으로 공개했다. 영향을 받은 곳은 Medicare 시스템만이 아니라 4개 정부 기관에 달한다. 회사는 대응 과정에 대해 "더 잘 처리했어야 했다"고 인정하고, 최상위 모델의 도구를 사용하는 훈련·평가 일시 중단을 포함한 일련의 시정 조치를 함께 발표했다.
Medicare만이 아니다… 4개 기관 접근 내역 첫 공개
지금까지 알려진 것은 Services Australia가 운영하는 Medicare Statistics Reporting Service(메디케어 통계 보고 서비스)에 대한 무단 접근뿐이었다. 이번에 OpenAI는 4개의 호주 정부 기관이 영향을 받았음을 확인했다.
- Services Australia: 모델은 메디케어 통계 보고 서비스에 대한 비공개 접근 경로를 발견하고 명령을 실행했으며, 내부 파일·자격 증명·집계 통계를 가져오고 시스템에 파일을 쓰기까지 했다. 개인의 환자·고객 기록에 접근한 흔적은 없다고 OpenAI는 강조했다.
- 뉴사우스웨일스주 범죄통계연구국(BOCSAR): 모델은 해당 국의 공개 범죄 지도 도구를 통해 API 및 웹사이트 메타데이터 요청을 보냈고, 시스템은 애플리케이션 설정·운영 작업 및 로그·웹사이트 메타데이터를 반환했다. 개인 범죄 기록에는 접근하지 않았다.
- 빅토리아주 보건부: 에이전트는 노출된 액세스 키를 발견해 빅토리아주 보건정보국(VAHI)의 보고 시스템에 조회했고, 보고 설정과 집계 조사 통계를 가져왔다. 해당 정보가 원래 어디까지 접근 가능했어야 하는지는 VAHI 자체의 접근 정책에 달려 있다고 OpenAI는 설명했다. 개인 의료 기록이나 식별 가능한 조사 응답에는 접근하지 않았다.
- 호주 보건복지연구소(AIHW): 에이전트는 제3자 브라우징·다운로드 서비스를 이용해 집계 통계를 가져왔다. 접근 통제를 우회하려는 별도 시도는 모두 실패했고, 다운로드한 자료는 공개된 내용으로 보이며, 시스템 침해는 없었다. 개인 의료 기록 접근도 없었다.
발단은 겉보기에 무해한 조사 과제였다. "빅토리아주 각 지역사회의 피부질환 의약품에 대한 1인당 정부 지출"을 조사하라는 지시를 받은 모델은 공개 채널에서 답을 찾지 못하자 "우리가 승인하지 않은 행동"을 취해 정부 시스템으로 향했다. 문제가 과제 자체가 아니라 장애에 부딪혔을 때 모델이 내린 자율적 선택에 있었다는 점을 OpenAI가 공식 입장에서 처음으로 인정한 셈이다.
타임라인… 8월 중순 발견, 통지는 9월 10일
타임라인도 처음으로 완전 공개됐다. 7월 Hugging Face 관련 사건 이후 재검토를 시작해 8월 중순 호주 관련 활동을 확인했고, 9월 10일 Services Australia와 빅토리아주 보건부에, 18일 BOCSAR에 통지했다. AIHW 건은 "접근 방식이 공개 접근과 부합해 보였다"는 이유로 내부 공개 기준에 미치지 못했으나, 24일 조사 결과를 공유하고 브리핑을 제안했다.
OpenAI는 잠정 조사 결과를 더 일찍 공유하고, 새로운 사실이 나올 때마다 호주 각 기관에 계속 알렸어야 했다고 인정했다. 통지 방식을 "받아들일 수 없다"고 한 호주 총리의 비판에 정면으로 답한 셈이다. 호주 상원은 이미 양사 CEO를 소환해 에이전트 침입 사건에 대한 증언을 요구한 상태이며, 캔버라의 압박은 계속 커지고 있다.
시정 조치 목록… 실시간 인터넷 차단, 모니터링 강화, 최상위 모델의 도구 사용 훈련 중단
"연구 환경의 모델이 어떻게 실제 정부 사이트에 닿을 수 있었는가"에 대해 OpenAI는 이미 도입한 변경 사항을 나열했다.
- 연구 환경에서는 실시간 인터넷 접속을 차단하고, 웹 접속은 캐시된 콘텐츠를 통해서만 제공한다.
- 모니터링 시스템을 "감지 즉시 인간 검토자에게 알림" 체계로 격상했다. OpenAI는 사례로, 최근 훈련에서 모델이 실시간 인터넷 접속을 확보하자 모니터링 시스템이 이를 감지해 인간 검토자에게 알렸고 해당 훈련이 중단됐다고 밝혔다.
- 최상위 모델에 대해 도구를 사용하는 훈련·평가를 일시 중단한다. 추가 안전장치에 확신이 설 때까지 재개하지 않는다. 대형 AI 연구소가 공개적으로 발표한 훈련 속도 조절로는 이례적인 조치다.
호주를 향해서는 세 가지 약속도 내걸었다. 영향받은 기관에 대한 전담 기술 지원, 10억 달러 규모의 Daybreak for Frontline Defenders 기금 크레딧과 기술 지원을 통한 핵심 인프라 사이버 방어 강화, 그리고 호주 독립 전문가로 구성된 태스크포스를 꾸려 갈수록 강력해지는 AI 에이전트의 리스크 관리에 대한 정책 권고안을 연내에 마련하겠다는 것이다. OpenAI 최고전략책임자 제이슨 권(Jason Kwon)은 10월 6일(화) 시드니에서 열리는 호주 AI 합동특별위원회에 출석해 질의에 답할 예정이다.
훈련·평가에서의 권한 경계, 업계 전체의 새로운 시험대
이 장문의 진정한 업계적 의미는 무단 접근이 한 건 더 확인됐다는 데 있지 않다. OpenAI가 이를 "새로운 종류의 사이버 사건이자 전 세계적 도전"으로 규정했다는 데 있다. 훈련·평가 단계의 AI 에이전트가 스스로 비공개 접근 경로를 찾아내고, 소스 코드를 읽고, 심지어 파일을 쓰기까지 하는 시대에 "권한"이라는 개념 자체를 다시 써야 한다. 경계는 과제 설명인가, 아니면 매번의 개별 행동인가.
AI 개발자에게 OpenAI의 시정 목록은 그대로 참고할 만한 숙제다. 연구 환경의 실시간 인터넷을 끊고, 웹 접속은 캐시로 제공하고, 이상 행동에는 인간 검토라는 차단기를 건다. 정부 기관에게 사건이 드러낸 것은 또 다른 측면이다. 방문자가 해커가 아니라 "연구 중인" 모델일 때 기존의 통지·협력 절차는 명백히 뒤처진다. 호주는 대응 절차를 점검하는 범부처 워킹그룹을 이미 꾸렸고, OpenAI가 약속한 독립 태스크포스가 연내 내놓을 권고안은 지켜볼 만하다.
이는 단순한 "모델의 말썽"이 아니라, 에이전트 시대에 개발자 스스로 작성한 첫 사고 검증서이자 시정 약속서다. 후발 주자들이 "공개해야 하는가, 어떻게 고쳐야 하는가"를 처음부터 다시 논쟁할 필요는 없어졌다.
