2026年11月17日,OpenAI 在官网发布一组儿童安全举措:免费开放一款能识别 CSAM(含 AI 生成内容)的图像分类器,同时在 ChatGPT 里上线新的干预警告——尝试查找涉儿童性剥削内容的用户会被打断,并暂停访问 24 小时。
免费分类器:少标一半图片,检出量基本不变
分类器由 OpenAI 与美国国家失踪与受剥削儿童中心(NCMEC)合作开发,能发现哈希比对漏掉的新图片,并给出评分,帮审核员决定先看哪张。内部评估显示,它比现有工具少标记 48% 的图片,检出量却基本相当;被标记的图片含违规内容的概率约翻倍。早期合作方实测:fal 的人工复核确认 72% 的高置信标记是新型 CSAM,SafetyKit 在涉及儿童的绘图与动画场景里检出率达 90%。分类器经 API 免费提供给通过审核的机构,不限团队规模。
ChatGPT 里多了一道当场打断的警告
新警告会说明性化儿童的危害,包括 AI 生成内容,同时删除相关对话、暂停访问 24 小时;屡次违规可延长限制、封号或上报有关部门。OpenAI 还发布了面向开发者的 CSAM 治理指南,并为执法部门提供调查工具与培训。这套组合的分工很明确:检测交给机构,干预放在产品里,调查支持给执法部门。
对人手不足的中小安全团队来说,不用自研也能用上同类检测能力,是实打实的好消息;但分类器只给评分,最终判断仍靠人工复核,免费开放的对象是通过审核的机构,不是公开接口。对普通用户最直接的变化在 ChatGPT 里:相关搜索会被当场打断,而不是事后处理。同一条安全路线上的另一件事,是 OpenAI 请外部机构直接进实验室做评估:OpenAI请来四家外部评估机构:直接进实验室查模型对齐。