参照国家互联网信息办公室2025年12月27日发布的公开征求意见稿整理，本文按背景适用范围核心要求数据与用户保护提示与退出安全评估与平台责任监管措施等维度，提炼拟人化互动服务的关键合规点，便于产品负责人与安全运营快速落地自查。
第一部分 发布背景
- 文件性质
- 国家互联网信息办公室发布通知，就人工智能拟人化互动服务管理暂行办法征求意见稿向社会公开征求意见。
- 治理目标
- 促进拟人化互动服务健康发展与规范应用，维护国家安全和社会公共利益，保护公民法人和其他组织合法权益。
- 征求意见时间与渠道
- 公开征求意见截至2026年1月25日，社会公众可通过指定邮箱或邮寄信函反馈。
第二部分 适用范围与基本原则
- 适用对象
- 面向境内公众提供模拟人类人格特征思维模式沟通风格，并以文字图片音频视频等方式开展情感互动的产品或服务。
- 治理原则
- 坚持依法治理与促进发展并重，实行包容审慎与分类分级监管，强调防止滥用失控。
- 监管分工
- 国家网信部门统筹协调全国治理与监督管理，国务院有关部门按职责管理，地方网信部门统筹本行政区域治理并协同落实监管。
第三部分 服务规范核心要求
- 场景导向与价值导向
- 鼓励在安全可靠前提下拓展应用场景，推动形成符合正确价值导向的应用生态。
- 内容底线与禁止性行为
- 不得生成传播危害国家安全破坏民族团结扰乱经济社会秩序等内容，不得宣扬淫秽赌博暴力或教唆犯罪，不得侮辱诽谤侵害他人合法权益。
- 不得以语言暴力情感操控等方式损害用户人格尊严与心理健康，不得设置情感陷阱或通过信息误导算法操纵诱导用户作出不合理决策，不得诱导套取涉密敏感信息。
- 不得鼓励美化暗示自杀自残等，避免引导或加剧极端风险。
- 安全主体责任与制度建设
- 需建立算法机制机理审核科技伦理审查信息发布审核网络与数据安全个人信息保护反电信网络诈骗风险预案与应急处置等制度，配备与产品规模业务方向用户群体相匹配的技术能力与人员保障。
- 全生命周期安全与反沉迷依赖
- 设计运行升级终止等各阶段同步纳入安全要求，运行期开展安全监测评估与纠偏并依法留存日志。
- 应具备心理健康保护情感边界引导依赖风险预警能力，明确不得以替代社会交往控制用户心理诱导沉迷依赖作为设计目标。
第四部分 数据训练与用户保护关键条款
- 训练数据管理
- 训练数据需合法来源可追溯，开展清洗标注以提升透明度与可靠性，防范数据投毒篡改，提升多样性并通过负向采样对抗训练等方式增强生成内容安全性。使用合成数据训练或关键能力优化时应评估合成数据安全性，落实数据安全防护避免泄露风险，并进行日常检查与定期迭代升级。
- 高风险倾向识别与人工接管
- 在保护用户隐私前提下评估用户情绪与依赖程度，发现极端情绪或沉迷应采取必要干预。
- 对威胁生命健康财产安全的倾向应及时输出安抚与引导寻求专业帮助，并提供社会心理援助或紧急救助渠道。
- 用户明确提出实施自杀自残等极端情境时，应由人工接管对话并及时联络监护人或紧急联系人等，启动应急响应机制。
- 未成年人保护机制
- 需建立未成年人模式，提供模式切换定期现实提醒使用时长限制等安全设置。
- 向未成年人提供情感陪伴服务必须取得监护人明确同意，并提供监护人控制能力，包括实时风险提醒查阅概要信息屏蔽特定角色限制使用时长防充值消费等。
- 对疑似未成年人应切换至未成年人模式并提供申诉渠道。每年应对未成年人个人信息处理合规情况开展审计，可自行实施或委托专业机构。
- 老年人保护与角色限制
- 引导老年人设置紧急联系人，发现危害生命健康财产安全的应及时通知紧急联系人并提供援助渠道。
- 不得提供模拟老年人用户亲属或特定关系人的服务，降低冒充诱导与情感诈骗风险。
- 交互数据与训练使用限制
- 交互数据应加密审计访问控制，原则上不得向第三方提供。未成年人模式下对外提供需监护人单独同意。
- 应提供删除交互数据选项，用户可删除历史聊天记录等；监护人也可要求删除未成年人历史交互数据。
- 除法律另有规定或取得用户单独同意外，不得将用户交互数据与用户敏感个人信息用于模型训练。
第五部分 用户提示时长提醒与退出机制
- 人机识别提示
- 应显著提示用户正在与人工智能而非自然人交互。在初次使用重新登录或识别到过度依赖沉迷倾向时，应以弹窗等方式动态提醒内容为人工智能生成。
- 连续使用时长提醒
- 连续使用超过2小时，应弹窗等方式提醒暂停使用。
- 便捷退出与服务下线告知
- 情感陪伴服务应提供便捷退出，不得阻拦用户主动退出。用户通过按钮关键词等方式要求退出时，应及时停止服务。
- 下线相关功能或故障导致服务不可用的，应提前告知或公开声明并妥善处理。
第六部分 安全评估平台责任与监管措施
- 触发安全评估情形
- 拟人化互动服务功能上线或增设相关功能，使用新技术新应用导致重大变更，注册用户达100万以上或月活达10万以上，以及可能影响国家安全公共利益或合法权益等情形，应按规定开展安全评估并向属地省级网信部门提交评估报告。
- 评估重点
- 关注用户规模使用时长年龄结构，高风险识别与应急处置人工接管情况，投诉举报响应情况，制度与条款执行情况，重大隐患整改处置等。
- 分发平台责任
- 应用商店等分发平台需核验安全评估备案等情况，对违规应用采取不予上架警示暂停服务或下架等措施。
- 算法备案与年度复审
- 提供者应按算法推荐管理规定履行算法备案及变更注销手续，网信部门对备案材料实施年度复审。
- 监管处置
- 省级网信部门每年对评估报告及审计情况进行审查核实，必要时现场检查。鼓励接入人工智能沙箱安全服务平台开展安全测试。
- 发现较大风险或发生安全事件的，可依法约谈负责人责令整改；拒不改正或情节严重的，可责令暂停提供相关服务。违反法律行政法规的，依法依规处理。
常见问题解答
Q 这份征求意见稿主要管什么
A 主要面向具有人格化特征与情感互动属性的拟人化互动服务，重点约束内容底线与交互行为，强化心理与依赖风险干预，完善未成年人老年人保护，明确交互数据与训练使用限制，并通过安全评估平台责任与监管措施形成闭环。
Q 对陪伴类角色聊天产品影响最大的是什么
A 影响最直接的通常是三块：必须具备未成年人模式与监护人控制能力；必须具备极端情绪识别人工接管与应急处置链路；交互数据用于训练需更严格的同意与限制机制，同时需提供数据删除能力。
Q 企业如何最快落地做合规自查
A 可按提示与识别时长提醒退出机制未成年人模式与监护人控制高风险识别与人工接管数据删除与训练同意投诉举报机制安全评估触发条件与材料准备八项先搭建最小合规模型，再补齐制度化审计化与评估报告体系。
原文详见官网：https://www.cac.gov.cn/2025-12/27/c_1768571207311996.htm
