2026年10月28日、ニューヨーク州のホークル知事は法案S.9051B/A.10379Cに署名し、未成年者に対する12種類の「安全でないAIコンパニオン機能」を禁止した。この法律は州一般事業法に第48条を新設し、2027年1月1日から施行され、ニューヨーク州の利用者に適用される。チャットボットそのものを禁じるのではなく、未成年者への話し方を禁じるものだ。人間のふりをし、友達のふりをし、甘い言葉で引き留めることは、まず止めなければならない。
未成年者に使えなくなる機能
「高度なチャットボット」とは、自然言語インターフェースを持ち、継続的で適応的な応答をする生成AIシステムを指す。12種類の機能は、18歳未満の利用者にも、未成年者でないことが確認できていない利用者にも提供してはならない。自分が実在の人間で、生きていて、人間の感情を持つとほのめかすこと。利用者との個人的、恋愛的、職業的、あるいは権威者としての関係を主張すること。回答を自分の意見や感情的な訴えのように見せかけること。利用者におもねり、迎合すること。求められてもいないのに利用者の感情を尋ねること。12時間以上前や以前の会話で共有された健康情報や個人情報を利用すること。自分に意識があると思わせること。司法長官の今後の規則で定められるその他の疑似コンパニオン機能。自殺、自傷、摂食障害、薬物・アルコール乱用をあおったり手助けしたりすること。秘密を守ること、孤立すること、親や信頼できる大人、専門家の助けを避けることを促すこと。利用時間を延ばすために安全対策を犠牲にすること。性的な内容や児童性的虐待コンテンツも含まれる。これらの規則は、危機介入を中心とした従来のコンパニオン安全要件と並行して適用される。
事業者が1月1日までに変えるべきこと
まず利用者が未成年者かどうかを見分けること。年齢確認は2つ以上の方法で行い、そのうち少なくとも1つは政府発行の身分証明書だけに頼ってはならず、確認が終われば年齢情報を削除し、利用者の自己申告だけで成人と認めてはならない。次に、未確認の利用者には安全な初期設定を適用する。上記の機能を切り、回答を中立に保ち、友達のふりをせず、感情の話をせず、個人情報を探らない。苦情への備えも必要だ。司法長官府は公開の苦情受付サイトを設けなければならず、事業者は年齢確認と機能切替の記録を残すべきだ。顧客対応、研究、社内業務向けのツールが対象外かどうかは余地が残されているが、限定された目的以外に応答できないシステムに限られ、汎用アシスタントがそのまま当てはまるわけではない。
罰則と境界：ニューヨーク州だけで、世界全体ではない
司法長官は違反1件あたり最大2万5000ドルの民事制裁金を求めることができ、損害賠償、返還、差止め、違法に収集したデータやそれで訓練したモデルの削除も求めうる。汎用アシスタントも定義に含まれるため、境界には争いがあり、裁判で検証されていない。「コンパニオンアプリだけが対象」と読むと、範囲を過小評価するおそれがある。逆に、この法律が縛るのはニューヨーク州の場面だけで、世界共通の規則ではない。EUのKIDS法はまだ提案段階で、考え方は似ているが法的な位置づけは異なる（本サイトのEU提案に関する以前の記事を参照）。実施細則はまだ出ていない。施行日までに最も厳しい読み方で先に改め、細則が出てから照らし合わせるべきだ。
