2026年12月2日,欧盟《人工智能法案》新增的两项禁令正式生效:生成非自愿私密影像与儿童性虐待内容的AI系统,在欧盟投放、投入使用或直接使用都将被禁止。同一天,2026年8月2日之前上市的生成式AI系统,机器可读内容标记的过渡期也同步结束。这两项变化都写在今年7月生效的《数字综合法案》(第2026/1744号条例)里,适用范围只限欧盟。
12月2日到底禁了什么
第一项禁令针对生成或篡改逼真图片、视频、音频等内容、涉及可识别自然人私密部位或性行为的AI系统,前提是没有当事人自由作出、具体、知情、明确且清晰的同意。第二项针对生成或篡改儿童性虐待内容的系统,依据欧盟第2011/93/EU号指令的定义,各成员国法律下的“无权利”抗辩除外。但禁令并非无条件扩大:第5条第1a款规定,提供者一侧只有在两种情形下才被禁——生成此类内容就是系统的既定用途,或者系统的设计、训练、架构与功能让这类生成成为合理可预见且可复现的结果,同时系统又缺乏合理充分的技术防护来可靠阻止并纠正已发现或被举报的滥用。部署者一侧则只有以生成此类内容为目的使用系统时才被禁。只改动画面、未增加私密部位暴露、也未改变性行为性质的操作,不算条文里的“篡改”。
12月2日前,企业该查什么
先盘点自己在欧盟投放或使用的生成式系统:有没有以生成私密影像、换脸裸体为卖点的功能,提示词过滤与输出检测能不能拦住这类请求,收到举报后有没有纠正机制。通用大模型本身不在禁令之内,但如果某个产品把“一键脱衣”做成主打功能,或者明知用户拿它批量生产这类内容却不设防,就踩进了第1a款的第二种情形。同一天到期的还有第50(2)条:2026年8月2日前上市的生成式系统,必须在12月2日前做到机器可读标记,ChatGPT文本水印的落地细节可以对照参考。供应商的回答要留书面记录,口头承诺进不了合规档案。
违反禁令属于法案最重的一档处罚,最高可罚3500万欧元或全球年营业额的7%,取较高者;第50条透明度违规则是另一档,最高1500万欧元或3%。也别把12月2日当成法案全面生效:高风险系统的义务仍推迟到2027年12月2日(附件三场景)与2028年8月2日(嵌入受管制产品),这次生效的只有新增禁令与标记过渡期。适用范围同样要卡死:在欧盟境外投放、且不在欧盟使用的系统不受这两条约束,美国、中国目前也没有对应的禁令,把欧盟规则说成全球通用是错的。