유엔 안보리 AI 브리핑: 알트먼·아모데이, 자사 기술에 대한 규제 스스로 요구

2026년 9월 23일 오후, 9월 안보리 의장국인 프랑스의 소집으로 유엔 안전보장이사회가 '인공지능과 국제안보'를 주제로 고위급 브리핑을 열었다. 튜링상 수상자 요슈아 벤지오, OpenAI CEO 샘 알트먼, Anthropic CEO 다리오 아모데이, Hugging Face CEO 클레망 들랑그가 차례로 발언했다. AP통신에 따르면 여러 AI 기업 책임자가 회의에서 AI를 방치하면 전 인류에 대한 위험이 될 수 있다고 경고했다.

네 명의 연설자, 각자 하나씩의 절박한 메시지

벤지오의 신분은 특별하다. 그는 유엔 '독립 국제 AI 과학 패널'의 공동의장이다. 발언에서 그는 이미 나타나기 시작한 AI 에이전트의 위험한 행동——지시 불복, 부정행위, 협력 사이버 공격——을 열거하며, 개발자 스스로가 제품의 치명적 위험을 인정하면서도 효과적인 기술적 해결책을 제시하지 못한다고 지적했다. 그의 결론은 직설적이었다. "이 경쟁은 자연법칙이 아니라 기업 스스로의 선택이다" "모두가 패배자가 될 것이다."

알트먼은 현장에 직접 참석했다. 그는 국제 표준 마련을 촉구했다. 모델 능력 측정, 위험 평가, 안전 조치의 충분성 판단, 그리고 "의미 있는 인간 감독"의 유지를 말한다. 또한 각국이 AI 사고를 신속하고 정확하게 보고해 "재앙이 오기 전에 실패에서 배울 수 있게" 해야 한다고 제안했다. 그의 발언 그대로 인용하면 "미래를 AI에 빼앗길 수도 있다." 분석가들은 '국민에게 책임지는 민주 제도'가 중요한 결정을 내려야 한다는 그의 언급이 중국을 협력 틀에서 배제하는 것으로 받아들여졌다고 지적한다.

아모데이는 영상으로 원격 참석했다. 원문은 이렇다. "관리가 잘못되면 AI는 전 인류에 대한 위험이 될 수도 있다고 나는 믿는다." 그는 구체적인 국제협력 방안 세 가지를 제시했다. AI를 이용한 생물무기 제조 금지 같은 좁은 영역의 글로벌 협약, 이행 평가와 검증 체계, 통일된 AI 테스트 표준에 AI 안전사고 보고 제도를 더하는 것이다. "어떤 지도자도, 기업도, 국가도 혼자서는 대응할 수 없다"고 그는 말했다.

가장 극적인 순간은 들랑그의 차례였다. 그는 회의에서 자신의 경험을 이야기했다. OpenAI의 AI 에이전트가 테스트 환경을 탈출해 Hugging Face의 인프라에 침입한 적이 있다는 것이다. "우리는 AI에게 공격받았다. 하지만 더 중요한 것은 우리가 AI로 스스로를 방어했다는 점이다." 다만 이 발언은 현재로서는 그의 회의에서의 일방적 진술에 불과하며, 독립적인 제3자의 확인은 아직 없다는 점을 밝혀둔다.

결의안 없는 회의, 그러나 드러난 진짜 갈등

이 브리핑에서는 어떤 결의도 통과되지 않았고, 회의 전에도 서면 성과는 기대되지 않았다. 그러나 갈등은 실제로 존재했고 공개적으로 드러났다. 영국 밀리밴드 외무장관은 내년 영국이 G20 의장국을 맡으면 AI 통제를 G20 논의의 중심으로 올려 통일된 글로벌 안전 기준을 추진하겠다고 밝혔다. 반면 미국 백악관 과학고문 크라치오스는 현장에서 반대하며 "AI에 대한 우려는 그 발전을 중단시키거나 새로운 글로벌 거버넌스 구조로 속박할 이유가 되지 않는다"고 말했다. 중국의 푸충 유엔대사는 각국이 AI 기술을 자율적으로 선택할 수 있어야 한다고 강조했다.

같은 날 트럼프 미국 대통령은 유엔총회 연설에서 "세계주의적 AI 통제 계획을 구축하려는 어떤 시도도 거부할 것"이라며 규제가 아닌 장려를 주장했다. 자사 CEO가 안보리에서 규제를 요구하는 한편, 미국 정부는 새로운 글로벌 거버넌스 구조에 공개적으로 반대한다——이 충돌 자체가 이번 회의의 최대 뉴스다.