Interprétation des mesures provisoires pour la gestion des services interactifs anthropomorphes en intelligence artificielle (projet de commentaires).

En se référant au projet de consultation publique publié par l’Administration du cyberespace de Chine le 27 décembre 2025, cet article affine les points clés de conformité des services interactifs anthropomorphes selon les exigences fondamentales du champ d’application en arrière-plan, les prompts et sorties de protection des données et des utilisateurs, l’évaluation de la sécurité et les mesures de supervision des responsabilités de la plateforme, afin de faciliter l’auto-inspection rapide des propriétaires de produits et des opérations de sécurité.

Partie 1 Contexte de la sortie

1. Nature du document
2. L’Administration du cyberespace de Chine a publié un avis pour solliciter des commentaires sur le projet de mesures provisoires pour la gestion des services interactifs anthropomorphes de l’intelligence artificielle.
3. Objectifs de gouvernance
4. Promouvoir le développement sain et l’application standardisée des services interactifs anthropomorphes, protéger la sécurité nationale et les intérêts sociaux publics, et protéger les droits et intérêts légitimes des citoyens, des personnes morales et autres organisations.
5. Heure et canal pour recueillir des avis
6. Sollicitation publique de commentaires Depuis le 25 janvier 2026, le public peut donner son avis via des boîtes aux lettres désignées ou par courrier.

Partie 2 Champ d’application et principes de base

1. Pour qui est-ce ?
2. Proposez des produits ou services qui simulent les caractéristiques de la personnalité humaine, les schémas de pensée, les styles de communication, et menez des interactions émotionnelles via des textes, des images, de l’audio, de la vidéo, etc.
3. Principes de gouvernance
4. Respecter l’accent égal accordé à la gouvernance conformément à la loi et promouvoir le développement, mettre en place une prudence inclusive et une supervision classifiée et hiérarchique, et insister sur la prévention des abus qui ne deviennent incontrôlables.
5. Supervision et division du travail
6. Le département national du cyberespace coordonne la gouvernance nationale, la supervision et la gestion, les départements concernés du Conseil d’État gèrent selon leurs fonctions, et les départements locaux du cyberespace coordonnent la gouvernance de leurs propres régions administratives et coordonnent la mise en œuvre de la supervision.

Partie 3 Exigences fondamentales des spécifications de service

1. Orienté scénario et valeur
2. Encourager l’expansion des scénarios d’application sous prétexte de sécurité et de fiabilité, et promouvoir la formation d’une écologie applicative qui réponde à la bonne orientation de valeur.
3. Résumé du contenu et des actes sexuels interdits
4. Il n’est pas autorisé à générer et diffuser des contenus mettant en danger la sécurité nationale, sapant l’unité nationale, perturbant l’ordre économique et social, favorisant l’obscénité, le jeu, la violence ou incitant à des crimes, et ne doit pas insulter, calomnier et porter atteinte aux droits et intérêts légitimes d’autrui.
5. Il n’est pas permis de nuire à la dignité personnelle et à la santé mentale des utilisateurs par la violence verbale et la manipulation émotionnelle, ni de poser des pièges émotionnels ou de manipuler des algorithmes trompeurs d’information pour inciter les utilisateurs à prendre des décisions déraisonnables, et de ne pas les inciter à obtenir des informations confidentielles et sensibles.
6. N’encouragez pas la glorification impliquant le suicide et l’automutilation, etc., pour éviter de guider ou d’aggraver les risques extrêmes.
7. Responsabilité principale en matière de sécurité et construction du système
8. Il est nécessaire d’établir des systèmes tels que l’audit des mécanismes algorithmiques, l’examen éthique scientifique et technologique, la revue des diffusions d’informations, la sécurité des réseaux et des données, la protection des informations personnelles, le plan de prévention des risques de fraude des réseaux anti-télécommunications et la réponse aux urgences, et être équipé de capacités techniques et de garanties de personnel correspondant à l’échelle produit, à la direction des affaires et aux groupes d’utilisateurs.
9. Sécurité complète au cycle de vie et dépendance à la dépendance
10. Toutes les étapes telles que la conception, l’exploitation, la mise à niveau et la terminaison sont simultanément incluses dans les exigences de sécurité, et la surveillance, l’évaluation et la correction de la sécurité sont effectuées pendant la période d’exploitation, les journaux sont tenus conformément à la loi.
11. Il devrait avoir la capacité de protéger la santé mentale, de protéger les limites émotionnelles et de guider les risques de dépendance, et il est clair qu’il ne devrait pas être conçu pour remplacer l’induction psychologique de l’addiction et de la dépendance par les utilisateurs de la communication sociale.

Partie 4 Dispositions clés sur la formation des données et la protection des utilisateurs

1. Gestion des données d’entraînement
2. Les données d’entraînement doivent être traçables à partir de sources légitimes, nettoyées et annotées afin d’améliorer la transparence et la fiabilité, prévenir l’empoisonnement et la falsification des données, améliorer la diversité et renforcer la sécurité du contenu généré grâce à la formation adversaire par échantillonnage négatif. Lors de l’utilisation de données synthétiques pour l’entraînement ou l’optimisation des capacités clés, la sécurité des données synthétiques doit être évaluée, la protection des données doit être mise en œuvre pour éviter le risque de fuite, et des inspections quotidiennes ainsi que des mises à jour itératives régulières doivent être effectuées.
3. Identification de la propension à haut risque et prise de contrôle manuelle
4. Évaluez les émotions et la dépendance des utilisateurs sous prétexte de protéger la vie privée, et prenez les mesures nécessaires si des émotions extrêmes ou une addiction sont détectées.
5. Pour les tendances qui menacent la vie, la santé et la sécurité des biens, ils doivent envoyer rapidement du réconfort et des conseils pour demander de l’aide professionnelle, et fournir une assistance psychosociale ou des voies de secours d’urgence.
6. Lorsque les utilisateurs proposent clairement des situations extrêmes telles que le suicide et l’automutilation, ils doivent prendre manuellement le contrôle de la conversation et contacter les tuteurs ou contacts d’urgence en temps utile pour activer le mécanisme d’intervention d’urgence.
7. Mécanisme de protection des mineurs
8. Il est nécessaire d’établir un mode mineur, et de fournir des réglages de sécurité tels que le changement de mode, des rappels de réalité réguliers et des limites de temps d’utilisation.
9. Fournir des services de compagnie émotionnelle aux mineurs doit obtenir le consentement explicite du tuteur et fournir ses capacités de contrôle, incluant des rappels de risque en temps réel, l’accès à des informations sommaires, le blocage de rôles spécifiques, la limitation de la durée d’utilisation et la prévention de la consommation de recharge.
10. Les mineurs suspectés doivent être placés en mode mineur et un canal de plainte doit être mis en place. Des audits doivent être réalisés chaque année sur le statut de conformité du traitement des informations personnelles des mineurs, qui peuvent être réalisés par eux-mêmes ou confiés à des institutions professionnelles.
11. Protection des personnes âgées et restrictions de rôle
12. Guidez les personnes âgées pour qu’elles établissent des contacts d’urgence, et informez rapidement les contacts d’urgence et proposez des canaux d’assistance s’ils constatent qu’ils mettent en danger la vie, la santé et les biens.
13. Les services ne doivent pas être fournis pour simuler des proches ou des personnes spécifiques liées aux personnes âgées afin de réduire le risque d’usurpation d’identité et de fraude émotionnelle.
14. Données d’interaction et limites d’utilisation de l’entraînement
15. Les données d’interaction doivent être chiffrées pour un audit et le contrôle d’accès et ne doivent pas être fournies à des tiers en principe. Dans le mode mineur, la disposition externe nécessite le consentement séparé du tuteur.
16. L’option de suppression des données d’interaction doit être proposée, et les utilisateurs peuvent supprimer l’historique historique des discussions, etc. ; Les tuteurs peuvent également demander la suppression des données d’interaction historiques des mineurs.
17. Sauf exigence contraire par la loi ou avec le consentement séparé de l’utilisateur, les données d’interaction de l’utilisateur et les informations personnelles sensibles des utilisateurs ne seront pas utilisées pour l’entraînement du modèle.

Partie 5 : Rappel de durée de l’invite utilisateur et mécanisme de sortie

1. Invites d’identification homme-machine
2. Il faut clairement indiquer que l’utilisateur interagit avec l’IA plutôt qu’avec la personne naturelle. Lorsque vous l’utilisez pour la première fois pour vous reconnecter ou identifier une tendance à trop dépendre de l’addiction, vous devez rappeler dynamiquement que le contenu doit être généré par l’intelligence artificielle sous forme de pop-ups et d’autres méthodes.
3. Rappel du temps d’utilisation continu
4. Si vous l’utilisez en continu plus de 2 heures, vous devriez être rappelé de suspendre l’utilisation par des fenêtres contextuelles.
5. Notification pratique de sortie et de service hors ligne
6. Les services de compagnie émotionnelle doivent offrir un retrait pratique et ne doivent pas empêcher les utilisateurs de se retirer volontairement. Lorsque l’utilisateur demande à se retirer via des boutons, mots-clés, etc., le service doit être arrêté à temps.
7. Si le service n’est pas disponible en raison des fonctions ou dysfonctionnements liés à la ligne descendante, il doit être informé ou annoncé publiquement à l’avance et traité correctement.

Partie VI Responsabilités et mesures de supervision de la plateforme d’évaluation de la sécurité

1. Déclenchez une situation d’évaluation de sécurité
2. Dans des situations telles que le lancement ou l’ajout de fonctions pertinentes de services interactifs anthropomorphes, l’utilisation de nouvelles technologies et de nouvelles applications entraînant des changements majeurs, le nombre d’utilisateurs enregistrés dépassant 1 million ou le nombre d’utilisateurs actifs mensuels dépassant 100 000, et la possibilité d’affecter la sécurité nationale, les intérêts publics ou les droits et intérêts légitimes, etc., une évaluation de la sécurité doit être réalisée conformément aux règlements et un rapport d’évaluation doit être soumis au département provincial local du cyberespace.
3. Évaluez la concentration
4. Prêtez attention à l’échelle des utilisateurs, à la durée d’utilisation, à la structure d’âge, à la prise en charge manuelle de l’identification à haut risque et de la réponse aux urgences, à la réponse aux plaintes et signalements, à la mise en œuvre des systèmes et des conditions, ainsi qu’à la rectification et à l’élimination des dangers cachés majeurs.
5. Responsabilité de la plateforme de distribution
6. Les plateformes de distribution telles que les boutiques d’applications doivent vérifier l’évaluation et le dépôt de la sécurité, et prendre des mesures telles que le non-listage des avertissements, la suspension des services ou le retrait des étagères pour des applications illégales.
7. Dépôt d’algorithmes et revue annuelle
8. Les prestataires doivent effectuer des procédures de dépôt et d’annulation des modifications des algorithmes conformément aux dispositions relatives à la gestion des recommandations d’algorithmes, et le département d’information internet effectue un examen annuel des documents de dépôt.
9. Supervision et élimination
10. Le département provincial du cyberespace examinera et vérifiera chaque année le rapport d’évaluation et la situation d’audit, et effectuera des inspections sur place lorsque cela est nécessaire. Encourager l’accès à la plateforme de services de sécurité en bac à sable en intelligence artificielle pour réaliser des tests de sécurité.
11. En cas de risque ou d’incident de sécurité plus important est constaté, la personne responsable peut être interrogée conformément à la loi et ordonnée de corriger ; S’ils refusent de faire des corrections ou si les circonstances sont graves, ils peuvent être condamnés à suspendre la prestation des services pertinents. Les infractions aux lois et règlements administratifs doivent être traitées conformément aux lois et règlements.

Questions fréquemment posées

Q : Quel est le principal objectif de ce brouillon pour les commentaires ?

R Il est principalement orienté vers les services interactifs anthropomorphes avec des caractéristiques personnalisées et des attributs d’interaction émotionnelle, en se concentrant sur la restriction des résultats financiers du contenu et des comportements interactifs, le renforcement de l’intervention psychologique et de risque de dépendance, l’amélioration de la protection des mineurs et des personnes âgées, la clarification des restrictions sur l’utilisation des données interactives et de la formation, et la formation d’une boucle fermée grâce aux mesures de responsabilité et de supervision de la plateforme d’évaluation de la sécurité.

Q : Qu’est-ce qui a eu le plus grand impact sur le produit de chat des personnages compagnons ?

R L’impact le plus direct est généralement composé de trois parties : doit avoir la capacité de contrôler les mineurs et les tuteurs ; Il doit disposer d’une reconnaissance émotionnelle extrême, d’une prise de contrôle manuelle et de liaisons d’intervention d’urgence ; Les données d’interaction servent à entraîner des mécanismes plus stricts de consentement et de restriction, ainsi que des capacités de suppression de données.

Q : Comment les entreprises peuvent-elles effectuer une auto-inspection de conformité aussi rapidement que possible ?

R : Selon la durée du prompt et de la reconnaissance, le mécanisme de sortie par rappel, le mode mineur et le contrôle du gardien, l’identification à haut risque et la prise de contrôle manuelle, la suppression et la formation des données, le mécanisme de plainte et de déclaration de consentement, l’évaluation de sécurité, les conditions déclencheuses et la préparation des matériaux, construisez d’abord un modèle minimal de conformité, puis complétez le système institutionnalisé d’audit et de rapport d’évaluation.

Pour l’article original, veuillez consulter le site officiel : https://www.cac.gov.cn/2025-12/27/c_1768571207311996.htm