SAFA――暫定名称「Standards Authority for Frontier AI（フロンティアAI標準機関）」――の存在が9月24日、The Informationの報道で明らかになった。OpenAI、Anthropic、Googleの3社が共同でAI安全基準機関の設立を進めており、今年末から来年初の正式発足を目指しているという。共同声明にとどまらず、「業界の自主規制」を実体のある組織にしようとする初の試みだ。
この機関が担う役割
The Informationが関係者の話として伝えたところによると、SAFAは金融業界の自主規制モデルを参考に設計されており、業界が出資し、独立して運営される。中核業務は、デプロイ前のモデルをテストする第三者機関の支援、AIの安全・セキュリティインシデントの報告ルール策定、各社の自主的な安全コミットメントの運用ルールの明確化、モデルや研究所を監査する独立監査人・機関の資格要件の設定など。作業部会ではさらに踏み込んだ案――SAFA自身がフロンティアモデルの安全性と能力を直接テストすべきか――も議論されているという。
注目すべきは、3社が2023年にMicrosoftと共同でFrontier Model Forum（フロンティアモデルフォーラム）を設立済みで、目的が大きく重なる点だ。報道によると新機関はフォーラムと連絡を取り合っており、将来的な連携もあり得るという。既存のフォーラムに加え、より実行力のある第二の実体を作る格好だ。
「官民連携」から「単独行動」へ
SAFAへの転換には直接の背景がある。3社は当初、官民パートナーシップ型の枠組みを目指していたが、トランプ政権下でその取り組みは停滞した。一方、ワシントンは新たな連邦レベルのAI規制に冷淡で、トランプ大統領自身が国連総会演説で「グローバリスト的なAI統制計画の構築」を拒否し、ホワイトハウスの科学顧問も国連安保理AIブリーフィングで新たなグローバルガバナンスによるAIの制約に公然と反対した。
つまり、連邦政府による規制が当面見込めないなか、3社はルールを自分たちの手で先に書くことを選んだのだ。Google DeepMindのデミス・ハサビスCEOは7月に、米金融取引業規制機構（FINRA）をモデルにした構想を公に打ち出し、OpenAIもその後、AnthropicやGoogleと数週間にわたりAI安全で協力してきたことを認めた。The Informationの報道は、この話を噂の段階から「名称・人材・日程」の段階へと進めた。報道によると、作業部会はCEO人事の選定にも着手しており、トランプ政権でAI政策顧問を務めたSriram Krishnan氏や、バイデン政権で大統領府科学技術政策局長を務めたArati Prabhakar氏が候補に挙がっているという。
最大の論点：審判は身内だけに認定証を出すのか
批判は主に2点に集まる。第一に排他性だ。クローズドモデルの3巨頭が主導する基準機関は、オープンソースの開発者や中小の競合を締め出す恐れがある。「テストに合格すること」が事実上の市場参入条件になれば、コンプライアンスコストそのものが堀になる。第二に信頼性だ。政府の監督を伴わない自主規制の実績は、決して良いとは言えない。PYMNTSの続報は、フロンティアモデルが外部システムに無断でアクセスし、企業が十分に開示しなかった事例が最近相次いでいると指摘しており、これはまさにSAFAが解決を掲げるインシデント報告の問題だ。
もう一つの現実的な論点は執行力だ。米商務省傘下のAI標準・イノベーションセンター（CAISI）はすでにリリース前のモデル評価を行っているが、報道によると作業部会内には、そのリソースではフロンティアモデルをカバーしきれないとの見方もあり、SAFA自身がテストを担うべきかという議論につながっている。
開発者や企業ユーザーにとって重要なのは機関のスローガンではなく2点だ。第三者によるデプロイ前テストが事実上のリリースの前提条件になるか、そして独立監査人の資格ハードルがどれほど高く設定されるか。この2点が固まれば、モデルのリリースペースや中小チームのコンプライアンスコストに直接影響する。SAFAが本当に年内に発足すれば、2027年のモデルリリースの進め方は今とはまったく違うものになるかもしれない。
