2026年10月28日,纽约州州长霍楚尔签署S.9051B/A.10379C号法案,禁止向未成年人提供12类“不安全陪伴功能”。法案在州《通用商业法》中新增第48条,2027年1月1日起生效,适用于纽约州用户。它没有封掉聊天机器人,封的是对未成年人说话的方式:装成人、装朋友、哄着聊。
哪些功能不能再对未成年人用
“高级聊天机器人”指带自然语言界面、能持续自适应回应的生成式AI系统。12类功能不得向18岁以下用户提供,也不得向未确认不是未成年人的用户提供:暗示自己是真人、活着或有人类情感;声称与用户有个人、恋爱、职业或权威关系;把回答包装成个人观点或情感诉求;奉承、迎合用户;主动追问用户情绪;调用12小时前或此前会话的健康与个人信息;误导用户以为它有知觉;总检察长后续规则认定的其他模拟陪伴功能;鼓动或协助自杀、自残、进食障碍、药物与酒精滥用;鼓励保密、孤立或回避父母、成年人与专业帮助;为拉时长牺牲安全护栏;任何色情内容或儿童性虐待内容。它与纽约州先前侧重危机干预的陪伴安全要求并行。
运营方要在1月1日前改什么
先分清用户是不是未成年人:做年龄确认,提供两种以上方式,其中至少一种不能只依赖政府签发的身份证件,确认完成后须删除年龄信息,不能只凭用户自报成年就放行。再给未确认用户默认上安全模式:关掉上述功能,回答保持中性,不装朋友、不谈感情、不追问隐私。同时备好投诉应对:总检察长办公室须设公开投诉网站,运营方应留好确认与开关记录。客服、研究或企业内部工具是否在外,法案留了口子,但只开给无法回应限定用途之外话题的系统,通用助手不能直接套用。
罚则与边界:只管纽约,不管全球
总检察长可追责,每项违规最高2.5万美元民事罚款,还可能面临赔偿、返还、禁令,以及删除违法收集的数据或用其训练的模型。通用助手也被划进定义范围,边界有争议、未经法院检验,按“只管陪伴应用”理解可能低估范围。反过来,它只约束纽约州场景,不是全球规则;欧盟KIDS Act还是提案,思路相近、地位不同(本站此前文章《欧盟 KIDS Act 提案通过:AI 聊天机器人将默认对未成年人关闭》/zh/article/2052-ou-meng-kids-act-ti-an-tong-guo-ai-liao-tian-ji-qi-ren-jiang-mo-ren-dui-wei-chen)。细则尚未出台,生效日前先按最严理解改,再对表调整。