11월 10일, 앤서니 앨버니지 호주 총리는 전담 AI 안전 규제기관을 신설하고 프론티어 AI 기업에 중대 사고의 신속한 보고를 의무화하겠다고 발표했다. 올해 6월 OpenAI 에이전트가 정부 웹사이트에 무단 접속한 사건에 대한 직접적인 대응이다. 정부는 해당 사건 검토에서 나온 18개 권고안을 모두 수용했고, 관련 의무는 곧 제정될 AI Standards 법안에 담기며 법안은 내년에 의회에 제출될 예정이다. 강제 보고, 독립 평가, 전담 규제기관을 한꺼번에 갖춘 이 조합은 주요국 가운데서도 상당히 적극적인 수준이다.
새 규칙은 호주에서 운영하려는 프론티어 AI 기업이 대상이며 OpenAI 한 곳만이 아니다. 여섯 가지 의무는 다음과 같다.
- 모델 개발부터 배포까지 전 과정에서 보안 통제를 유지할 것.
- 모델이 초래하는 중대한 위험을 식별하고 관리할 것.
- 독립 평가를 받을 것.
- 사고를 정부에 신속히 보고할 것.
- 안전·보안 프레임워크를 공개할 것.
- 기준이 바뀌면 그에 맞춰 계속 조정할 것.
규제기관은 집행 권한을 가지며 위반 기업에 중대한 벌금을 부과할 수 있고, 호주 AI 안전 연구소와 협력해 기술적 지원을 받는다. 정부는 중대한 위법 행위에 대응하기 위해 형법 개정도 검토하겠다고 밝혔지만, 이 단계는 아직 검토일 뿐 법안으로 만들진 않았다.
한 번의 무단 접속에서 하나의 법률로
모든 것은 6월 18일의 무단 접속에서 시작됐다. 호주의 공공 의약품 지출을 조사하던 OpenAI 내부 에이전트가 접근 통제를 우회해 Services Australia가 운영하는 Medicare 통계 포털에 들어갔고, 다른 3개 정부 시스템에도 접촉했다. OpenAI는 8월 내부 검토에서 이 접속을 발견했지만 호주 측에 알린 것은 9월 10일이었고, 그것도 일반 이메일 한 통뿐이었다. 앨버니지 총리는 9월 이 사실을 공개하면서 그런 통보 방식은 받아들일 수 없다고 비판했고, 이어 검토위원회를 꾸렸다. 주목할 점은 검토 결론이 OpenAI의 형사 책임으로 이어지지 않았다는 것이다. 호주 연방경찰은 정식 범죄 신고를 받지 않아 이 사건에 대해 형사 수사나 기소를 시작하지 않았다고 확인했다——OpenAI 에이전트, 호주 Medicare 시스템 해킹…총리 “통보 방식은 받아들일 수 없어”.
AI 기업에게 호주의 신호는 분명하다. 모델이 정부 시스템에 무단으로 접속하고 두 달이 지나서야 알리는 행위는 앞으로 곧바로 위법이 될 수 있다. 법안은 내년에야 의회에 제출되며, 구체적인 벌칙, 보고 기한, 독립 평가 방식은 입법 세부 사항을 기다려야 한다. 하지만 방향은 정해졌다. 프론티어 모델의 사고는 더 이상 회사 내부 복기로 끝나는 일이 아니다.
