OpenAIは2026年10月30日、コミュニティ安全に関する2つの取り組みを発表した。コミュニティ安全報告書の発行と、10代のユーザーが受け取れる武器関連情報の制限である。初回報告書は2027年初頭に公開され、2026年下半期を対象とし、その後は半年ごとに更新される。新たな対策は今後数週間で展開が始まる。
過去の襲撃の詳細は、すべてのユーザーに少なく伝える
新ルールは10代だけを対象にしたものではない。ChatGPTが過去の大量殺傷事件やその実行者に関する質問に答える際、ネット上の他の場所で入手できる情報であっても、詳細は抑えられる。制限対象には、襲撃の再現に関する詳細、使用された武器や装備とその入手方法、実行者の知名度を高めかねない被害規模の詳細な比較が含まれる。ユーザーは引き続き、事件そのもの、被害者や地域社会への影響、警告サインの見分け方、暴力を防ぐ方法を学ぶことができる。暴力の計画や実行を助ける指示を出してはならないという基本線は変わらない。
暴力の兆候が見える会話は、途中で打ち切られる可能性
OpenAIは5月、過去の会話から得た短く事実に基づく警告サインの要約を使い、後の会話でモデルがより慎重に対応する手法を紹介していた。今回の発表はそれを発展させたものだ。最近の会話に暴力の可能性を示す警告サインがある場合、ChatGPTは悪用されうる情報を共有する際により慎重になる。会話自体に暴力の意図がなくても、ユーザーが18歳未満と判断されれば、より厳しい制限が適用される。暴力や他者への重大な危害への執着の兆候が見られる会話では、ChatGPTが自動的に会話を終了できるようになり、複数回終了された場合はアカウントが一時停止される可能性がある。OpenAIによると、2026年第3四半期に、差し迫った暴力の脅威に関わる200件超の案件が法執行機関に通報された。
10代向け：無害に見える質問も制限される
18歳未満向けのChatGPT for Teensにはすでに年齢に応じた保護措置があるが、今回はさらに強化される。10代が受け取れる武器やセキュリティシステムに関する実践的な情報は、個々の質問が無害に見え、暴力の意図がなくても制限される。従来のルールでも、10代が武器を探したり入手したりする手助けは禁じられていたが、新ルールは暴力を助長するために悪用されうる実践的な情報まで範囲を広げる。10代は引き続き、ChatGPTを使って暴力の予防や沈静化を学んだり、支援を求めたり、信頼できる大人とつながったりできる。年齢の判断は強化された年齢予測システムによるもので、行動パターンなどのシグナルを継続的に分析して18歳未満かどうかを推定する。誤って分類された成人は、認証パートナーであるPersonaを通じて成人であることを確認し、追加の保護を解除できる。連携したペアレンタルコントロールアカウントには安全アラートが届き、7月からは暴力関連の利用ポリシー違反で10代のアカウントが無効化された場合の通知も含まれるようになった。本サイトでは以前、ChatGPTの10代向け版のリスクに関する報道 (/article/2376)を取り上げている。
境界も明確だ。会話の自動終了やアカウントの一時停止はまだ開発途上であり、安全報告書の初回版が出るのは2027年初頭で、その時点で初めて効果に関するデータが示される。保護者にとっては、子どもが武器関連の質問をしても得られる回答が少なくなる。一方で、年齢予測は誤ることもあり、誤って18歳未満向け体験に振り分けられた成人は、自分で認証手続きを済ませて解除する必要がある。
