1. Contexte
Formulé par le Comité technique national de normalisation de la cybersécurité (TC260) et officiellement publié lors du forum principal de la Semaine nationale de la publicité sur la cybersécurité le 9 septembre 2024. Le cadre répond à l’Initiative mondiale de gouvernance de l’IA et vise à fournir des orientations systématiques et exploitables pour la gouvernance de la sécurité de l’IA et à promouvoir la construction d’un écosystème d’applications de l’IA sûr, crédible et contrôlable.
2. Principes de gouvernance
Adhérer aux principes d’inclusion, de prudence et de sécurité, de gouvernance, de technologie et de gestion axées sur le risque et agiles, combinées à une réponse collaborative, à l’ouverture, à la coopération, à la cogouvernance et au partage.
3.
- Risques de sécurité endogènes de la structure du cadre : sécurité des algorithmes du modèle, sécurité des données, sécurité du système, etc.
- Risques de sécurité des applications : y compris les risques liés à l’environnement réseau, les risques liés aux scénarios réels, les risques liés aux biais cognitifs, les risques éthiques, etc.
- Contre-mesures : Proposer des contre-mesures techniques et des mesures de gouvernance complètes, et fournir des conseils de sécurité à différentes entités telles que les développeurs d’algorithmes, les fournisseurs de services d’IA, les utilisateurs de l’industrie et le public.
4. Importance stratégique
Bien que ce cadre ne soit pas juridiquement exécutoire, en tant que premier document d’orientation systématique de notre pays pour la gouvernance de la sécurité de l’intelligence artificielle, il fournit une référence pour l’identification des risques, la réponse technique et la gouvernance collaborative, et favorise la coopération internationale et le consensus sur la gouvernance de la sécurité de l’intelligence artificielle.
Voir le site officiel pour plus de détails :
https://www.tc260.org.cn/front/postDetail.html?id=20240909102807
