SAFA――가칭 'Standards Authority for Frontier AI(프론티어 AI 표준 기구)'――의 존재가 9월 24일 The Information 보도로 드러났다. OpenAI, Anthropic, Google 3사가 AI 안전 표준 기구 설립을 공동으로 추진 중이며, 올해 말에서 내년 초 정식 출범을 목표로 하고 있다는 것이다. 공동 성명에 그치지 않고 '업계 자율 규제'를 실체 있는 조직으로 만들려는 첫 시도다.
이 기구가 맡을 역할
The Information이 복수의 소식통을 인용해 전한 바에 따르면, SAFA는 금융 업계의 자율 규제 모델을 참고해 설계됐으며 업계가 출자하고 독립적으로 운영된다. 핵심 업무는 배포 전 모델을 테스트하는 제3자 기관 지원, AI 안전·보안 사고 보고 규칙 제정, 각 연구소의 자발적 안전 서약의 운용 기준 명확화, 모델과 연구소를 감사하는 독립 감사인·기관의 자격 요건 설정 등이다. 실무 그룹에서는 한 걸음 더 나아간 방안――SAFA 자체가 프론티어 모델의 안전성과 역량을 직접 테스트해야 하는지――도 논의 중이라고 한다.
주목할 점은 3사가 2023년 Microsoft와 함께 Frontier Model Forum(프론티어 모델 포럼)을 이미 설립했고 목표가 크게 겹친다는 것이다. 보도에 따르면 새 기구는 포럼과 연락을 유지하고 있으며 향후 협력 가능성도 있다고 한다. 기존 포럼에 더해 실행력이 강한 두 번째 실체를 만드는 셈이다.
'민관 협력'에서 '독자 행보'로
SAFA로의 전환에는 직접적인 배경이 있다. 3사는 당초 민관 파트너십 형태를 목표로 했으나 트럼프 행정부 들어 추진이 멈췄다. 한편 워싱턴은 새로운 연방 차원의 AI 규제에 냉담하다. 트럼프 대통령은 유엔 총회 연설에서 '세계주의적 AI 통제 계획 구축'을 거부했고, 백악관 과학 고문도 유엔 안보리 AI 브리핑에서 새로운 글로벌 거버넌스로 AI를 제약하는 데 공개적으로 반대했다.
즉, 연방 정부의 규제를 당분간 기대하기 어려운 상황에서 3사는 규칙을 자신들의 손으로 먼저 쓰기로 한 것이다. Google DeepMind의 데미스 허사비스 CEO는 7월 미국 금융산업규제기구(FINRA)를 모델로 한 구상을 공개했고, OpenAI도 이후 Anthropic, Google과 수 주간 AI 안전 분야에서 협력해 왔음을 인정했다. The Information의 보도는 이 이야기를 소문 단계에서 '명칭·인물·일정' 단계로 끌어올렸다. 보도에 따르면 실무 그룹은 CEO 인선에도 착수했으며, 트럼프 행정부에서 AI 정책 고문을 지낸 Sriram Krishnan과 바이든 행정부에서 백악관 과학기술정책실장을 지낸 Arati Prabhakar가 후보로 거론되고 있다고 한다.
최대 쟁점: 심판은 자기편에만 인증서를 줄 것인가
비판은 두 가지에 집중된다. 첫째, 배타성이다. 폐쇄형 모델 3사가 주도하는 표준 기구는 오픈소스 개발자와 중소 경쟁자를 배제할 수 있다. '테스트 통과'가 사실상의 시장 진입 조건이 되면 컴플라이언스 비용 자체가 해자가 된다. 둘째, 신뢰성이다. 정부 감독 없는 자율 규제의 성적표는 결코 좋지 않다. PYMNTS의 후속 보도는 프론티어 모델이 외부 시스템에 무단 접근하고 기업이 충분히 공개하지 않은 사례가 최근 잇따르고 있다고 지적했는데, 이는 SAFA가 해결하겠다고 나선 사고 보고 문제 그 자체다.
또 다른 현실적 쟁점은 집행력이다. 미 상무부 산하 AI 표준·혁신 센터(CAISI)는 이미 출시 전 모델 평가를 수행하고 있지만, 보도에 따르면 실무 그룹 내에서는 그 자원으로는 프론티어 모델을 감당하기 어렵다는 시각도 있어 SAFA가 직접 테스트를 맡아야 하는지 논쟁으로 이어지고 있다.
개발자와 기업 사용자에게 중요한 것은 기구의 구호가 아니라 두 가지다. 제3자의 배포 전 테스트가 사실상의 출시 전제 조건이 될지, 그리고 독립 감사인의 자격 문턱이 얼마나 높게 설정될지다. 이 두 가지가 굳어지면 모델 출시 속도와 중소 팀의 컴플라이언스 비용에 직접 영향을 미친다. SAFA가 정말 연내에 출범한다면 2027년의 모델 출시 방식은 지금과 전혀 달라질 수 있다.
