11월 9일 6개국 정부와 10개 AI 기업이 파리에서 AI 안전과 안보에 관한 공동 선언에 서명하며 최첨단 모델을 위한 평가 기준 공유, 독립적 감독, 페일세이프 통제를 약속했다. 선언은 엘리제궁과 캐나다 총리실이 발표했고, 네덜란드 정부가 11월 10일 전문을 웹사이트에 게시했다. 서울 정상회의에 이어 올해 두 번째로 정부와 주요 모델 개발사가 하나의 안전 약속에 모인 것이다.
서명한 정부는 바레인, 캐나다, 핀란드, 프랑스, 노르웨이, 네덜란드이며, 기업 측에는 Anthropic, 마이크로소프트, OpenAI, Mistral AI, Hugging Face, Cohere, Black Forest Labs, Domyn, Sakana AI, Synthesia가 참여했고, 4개 시민사회 단체도 함께했으며 선언은 새로운 서명자에게도 열려 있다. 핵심 약속은 네 가지다. 비민감 평가 결과를 공통 형식으로 공유할 것, 사고 보고와 조기 경보 체계를 구축할 것, 알려진 위험을 공개할 것, 그리고 모델에 페일세이프 메커니즘을 갖출 것, 즉 필요할 때 자신이 통제하는 범위 내의 모델 운영을 중단할 수 있는 능력이다. 각국 정부는 AI 안전 분야의 내부고발자를 보호하겠다고 약속했다.
이 선언은 갑자기 나온 것이 아니다. 히로시마 프로세스, 서울 AI 정상회의의 프런티어 안전 약속, G7 에비앙 AI 회의, 9월 23일 유엔 안전보장이사회의 AI 회의를 명시적으로 잇고 있다. 배경에 깔린 판단은 직설적이다. 최첨단 모델의 영향은 국경을 넘으며, 어떤 국가나 기업, 국제기구도 혼자서 위험을 관리할 수 없다. 참고할 만한 사례는 OpenAI가 최근 공개한 내부 시스템 Control Room으로, 개입을 결정한 뒤 35초 안에 모든 연구 모델 학습을 중단할 수 있다. 이런 '멈출 수 있는 능력'이야말로 선언이 각 개발사에 요구하는 페일세이프 메커니즘이다.
다만 선언의 구속력은 아직 지켜봐야 한다. 이는 조약이 아닌 정치적 약속으로, 지키지 않았을 때의 결과를 적시하지 않았으며, 이행은 각 기업과 정부가 앞으로 어떻게 하느냐에 달려 있다. 국가 차원의 입법도 같은 방향으로 움직이고 있다. 호주는 최근 기업에 사고 신속 보고를 의무화하고 전담 규제기관을 두는 프런티어 AI 규칙을 제안했다. 선언의 가치는 오히려 공통의 방향을 정했다는 데 있다. 평가 기준, 사고 보고, 긴급 중단은 프런티어 모델 거버넌스의 기본 구성이 되어 가고 있다.
