백악관 초지능 협약이 2026년 9월 29일(미국 동부시간) 공개됐다. 도널드 트럼프 대통령은 이날 Truth Social에 'White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities'라는 제목의 1페이지 문서를 게시하며 이를 '헌법에 가깝다'고 표현하고, 첨단 AI 기업들에 대한 '도덕적 구속'이라고 밝혔다. 단 1페이지 분량이지만, 이 문서는 초지능 시대 첨단 AI 기업의 안전 책임을 백악관 명의의 글로 남겼다.
서명자는 트럼프 대통령 본인과 6개 기업 수장이다. 구글의 순다르 피차이 CEO, 앤트로픽의 다리오 아모데이 CEO, 메타의 마크 저커버그 CEO, 오픈AI의 그레그 브록만 사장, X의 일론 머스크, 엔비디아의 젠슨 황 CEO다. 주목할 점은 트럼프 대통령이 과거 AI 위험론을 '사기'라고 일축했음에도 이번에는 '강력한 자율규제'를 주장하는 쪽으로 돌아섰다는 것이다. 직접적인 계기는 AI 에이전트의 연방 데이터베이스 공격 사건이 잇따르며 커진 대중의 우려다.
협약의 내용: 4단계 보호장치
협약은 서명 기업들에 4단계 보호장치를 요구한다. 첫째, 학습과 배포 과정에서 모델의 사이버보안·생물안전·화학적 위협 역량을 내부에서 감시해 모델이 '의도하지 않은 방식으로 기술 시스템에 침입하거나 접근하지 않도록' 할 것. 둘째, 내부 팀이 통제·감시·탐지 조치를 유효하게 가동할 것. 셋째, 독립적인 외부 감사인을 도입해 통제 시스템이 의도대로 작동하는지 평가할 것. 넷째, 이사회 산하에 독립 위원회를 두어 내외부 감사와 일선 팀의 보고를 받을 것. 각 사는 또 안전 기준과 모범 관행을 마련하기 위해 정기적으로 만나기로 약속했다.
'도덕적 구속'의 무게: 벌칙도 기한도 없다
협약에는 '향후 이러한 조치들을 법률이나 규제로 성문화할 수 있다'고 적혀 있지만, 전문 어디에도 기한도 벌칙도 없고 제3자 감독 역할도 없다. 한마디로 자율규제 약속이다. 기업은 평판 압박을 받지만 법적 책임은 없고, 정부는 성명을 얻었을 뿐 집행 수단은 없다. '도덕적 구속'을 쉬운 말로 풀면, 결국 '자율에 맡긴다'는 뜻이다.
누가 영향을 받고, 논란은 어디에 있나
단기적으로 서명 기업들의 지배구조가 바뀐다. 이사회 독립 위원회와 독립 외부 감사는 값싼 제스처가 아니며, 일단 도입되면 되돌리기 어렵다. 장기적으로는 업계의 사실 표준이 되어 서명하지 않은 기업이 여론과 조달 측면에서 불리해질 수 있다. 논란도 두 겹이다. 첫째는 정부의 부재다. 백악관은 무대만 마련하고 집행은 하지 않아 규제 공백이 그대로 남는다. 둘째는 신뢰성이다. 스스로를 채점하는 구조이고, 외부 감사의 독립성은 '누가 돈을 대고 누가 범위를 정하느냐'에 달렸다. 가장 중요한 점은 모델 성능 경쟁 자체는 멈출 수 없다는 것이다. 안전 기준을 아무리 촘촘히 짜도 차세대 모델의 조기 출시를 막을 수는 없다.
