ToolNavs 便利なAIツールを発見
ツール投稿 ログイン
戻るAI情報
OpenAI、CSAM検出ツールを無料開放:ChatGPTで違反検索をすれば24時間停止

OpenAI、CSAM検出ツールを無料開放:ChatGPTで違反検索をすれば24時間停止

AI情報 • Admin • • 29 回閲覧

2026年11月17日、OpenAIは公式サイトで一連の児童安全対策を発表した。CSAM(AI生成物を含む)を検出できる画像分類器を無料で開放するとともに、ChatGPTに新たな介入警告を導入した。児童性的搾取コンテンツを検索しようとしたユーザーはその場で中断され、24時間アクセスが停止される。

無料の分類器:フラグは半分に、検出数はほぼ同じ

分類器はOpenAIと全米行方不明・被搾取児童センター(NCMEC)の協力で開発され、ハッシュ照合では見逃される新規画像を発見し、審査員がどれを先に見るか判断するためのスコアを返す。内部評価では、既存ツールより48%少ない画像にフラグを立てながら、検出数はほぼ同等で、フラグが付いた画像に違反コンテンツが含まれる確率は約2倍だった。初期パートナーの実測では、falの有人レビューで高信頼フラグの72%が新規CSAMと確認され、SafetyKitでは児童を性的に描いたイラストやアニメの検出率が90%に達した。分類器は審査を通過した機関にAPI経由で無料提供され、チーム規模は問われない。

ChatGPTにその場で止める警告が追加

新しい警告は、AI生成物を含め児童を性的に扱うことの害を説明し、対象の会話を削除して24時間アクセスを停止する。繰り返し違反すれば制限の延長、アカウント停止、当局への通報につながる。OpenAIは開発者向けのCSAMガバナンス・ガイドも公開し、法執行機関向けに調査ツールと研修を提供する。役割分担は明確だ。検出は機関へ、介入は製品の中へ、調査支援は法執行機関へ。

人手の足りない中小の安全チームにとって、自前で開発せずに同等の検出能力が無料で使えるのは実質的な朗報だ。ただし分類器が出すのはスコアだけで、最終判断は人のレビューに委ねられ、無料開放の対象は審査通過機関であって公開APIではない。一般ユーザーにとって最も目に見える変化はChatGPTの中にある。関連する検索は事後処理ではなく、その場で止められる。同じ安全路線のもう一つの動きとして、OpenAIは外部機関を研究所に直接招いて評価させている:OpenAI、外部評価機関4社を招致:研究所に直接入りモデルのアライメントを検証。

おすすめツール

もっと見る