Un bref aperçu de « Évaluation de la sécurité des services d’IA générative et dépôt d’algorithmes »

1. Contexte de la promulgation

les mesures provisoires pour la gestion des services d’intelligence artificielle générative, la fourniture de services d’IA générative avec des attributs d’opinion publique ou des capacités de mobilisation sociale au public national doit effectuer une évaluation de la sécurité et gérer le dépôt d’algorithmes conformément à la loi pour s’assurer que le fonctionnement du service est sûr et contrôlable, et que le contenu est légal et conforme.

2. Le champ d’application

comprend les institutions et les entreprises qui effectuent des recherches autonomes, affinent, forment des formations personnalisées ou fournissent des services de grands modèles au public par le biais d’API, en particulier les plateformes ayant de plus grandes capacités d’influence et de diffusion.

3. Dépôt et évaluation

1. du rapport d’évaluation de la sécurité matérielle : couvrant la légalité des données de formation, la sécurité des modèles, les mesures de prévention et de contrôle des risques, les plans d’intervention d’urgence, etc., peut être préparé en référence aux « Exigences de base pour la sécurité des services d’intelligence artificielle générative ».
2. Table de classement de l’algorithme : contient des informations telles que le nom du modèle, l’unité de développement, le type d’algorithme, les ressources de formation et le mécanisme de révision du contenu.
3. Matériel auxiliaire : tels que des ensembles de questions de test, des bases de mots-clés d’interception, des règles d’annotation de corpus, etc., pour soutenir les tests et l’évaluation de la sécurité.

4. Exigences du processus

Terminez l’évaluation de la sécurité avant de soumettre la demande de dépôt de l’algorithme. Le processus comprend la préparation des documents, la soumission, l’examen par les services locaux d’information sur Internet et la publicité des informations de dépôt. Le cycle de traitement est généralement de 3 à 6 mois.

5. Obligations de suivi

Après le lancement du service, le numéro de dépôt doit être publié de manière proéminente ou dans la description du produit, et la gestion de la sécurité du contenu doit être mise en œuvre en permanence. Les services qui ne remplissent pas leurs obligations en matière d’évaluation de la sécurité et de dépôt peuvent faire l’objet d’une suppression, d’une rectification ou de pénalités.

Voir le site officiel pour plus de détails :

https://www.cac.gov.cn/2024-04/02/c_1713729983803145.htm