OpenAI a annoncé un nouveau cadre pour la sécurité, la liberté et la confidentialité des jeunes. ChatGPT introduira progressivement la prédiction de l'âge, le contrôle parental et des mesures de protection pour une utilisation saine. Tout en garantissant la sécurité des jeunes, les scénarios pour adultes conserveront une plus grande liberté et une meilleure protection de la vie privée, formant ainsi un chemin de gouvernance de l'IA clair et applicable. I. Principes du produit : trois capacités mises en œuvre 1. Prédiction de l'âge : protection par défaut en cas d'incertitude 2. Prédiction de l'âge : ChatGPT estime l'âge en fonction des signaux d'interaction. Lorsque la confirmation n'est pas disponible, il applique par défaut la politique pour les mineurs. Cela permet aux adultes de bénéficier d'une plus grande liberté après vérification, minimisant ainsi les risques. 2. Contrôle parental : liaison de compte et configuration des règles 3. Les parents peuvent se lier au compte de leur jeune, définir des périodes d'utilisation, désactiver la mémoire et l'historique des conversations, recevoir des alertes de risque et gérer la sortie du modèle de manière granulaire par sujet et par intensité.
3. Usage Guardian : Rappels de santé et intervention sur les risques
Fournir des rappels de chat à long terme, identifier les signaux d'émotion et de risque, et déclencher des interventions plus strictes et des chemins de transfert manuel dans les situations à haut risque pour garantir que le processus est traçable et explicable.
(1) Limite de liberté des adultes
Sans causer de réel préjudice, la création, la discussion et les appels d'outils pour adultes sont plus ouverts, tout en insistant sur la minimisation, la supprimabilité et l'exportabilité des données.
(2) Confidentialité et conformité
Sur la base de restrictions d'utilisation et d'audits de traçage, des réglementations et des processus de notification différenciés sont adaptés aux différentes régions.
(3) Gouvernance de la plateforme
Double assurance du modèle de pré-classificateur et d'évaluation post-conversation, combinée à des autorisations minimales, une limitation du débit et des mécanismes de restauration pour améliorer la robustesse.
II. Méthodes de mise en œuvre : listes de contrôle de mise en œuvre pour les plateformes, les écoles et les familles
1. Intégration côté plateforme
Placez la classification par âge et le contrôle parental dans la couche de contrôle des comptes et des risques, mettez en œuvre des stratégies de classification dans les appels de modèles, l'accès aux outils et les fonctions de mémoire, et conservez les journaux des audits et des appels.
2. Pratiques scolaires et familiales
Les écoles utilisent des listes blanches de sujets et des contrôles de périodes, et les familles utilisent le contrôle parental pour établir uniformément des couvre-feux et des stratégies d'enregistrement, transformant les « normes » en « routines quotidiennes » et réduisant les abus et la dépendance excessive.
(1) Indicateurs d'évaluation
Mesurer l'efficacité des stratégies en utilisant le taux d'erreur de jugement, la rapidité d'intervention, le taux de réponse parentale et les résultats d'apprentissage.
(2) Stratégie d'ingénierie
Utiliser la mise en cache et la synthèse segmentée pour réduire les coûts et permettre une vérification factuelle plus rigoureuse pour le contenu à haut risque.
(3) Gouvernance en boucle fermée
Établir une diffusion en niveaux de gris, un commutateur de restauration et un canal d'appel, examiner régulièrement les cas de refus de réponse et d'intervention, et optimiser les seuils et les invites.
a. Minimisation des données
b. Collaboration homme-machine
c. Conformité interrégionale
II. Détails du site web officiel :
https://openai.com/index/teen-safety-freedom-and-privacy/
Foire aux questions (Q&R)
Q : La prédiction d’âge de ChatGPT aura-t-elle une incidence sur l’expérience adulte ?
R : Lorsque l’âge est incertain, le système applique par défaut la politique de protection des mineurs. Les adultes peuvent restaurer leurs capacités après avoir terminé la vérification. La priorité est toujours la sécurité des adolescents.
Q : Quels paramètres spécifiques peuvent être définis pour le contrôle parental ?
R : Vous pouvez lier des comptes jeunes, configurer des périodes d’utilisation, désactiver les souvenirs et l’historique des conversations, recevoir des alertes de risque et définir des restrictions de sortie plus strictes sur les sujets sensibles.
Q : Le nouveau cadre restreindra-t-il la liberté d’utilisation normale des adultes ?
R : Non. Dans les limites de la sécurité, les adultes bénéficient toujours d’une plus grande liberté créative et d’autorisations d’utilisation des outils, tout en adhérant aux engagements de confidentialité en matière de minimisation, de suppression et d’exportabilité des données.
Q : Comment les écoles peuvent-elles introduire ChatGPT de manière rentable et sécurisée ?
R : Établir une liste blanche de cours et de devoirs, permettre la collaboration des parents et la traçabilité des résultats, définir des normes de vérification des faits et de citation par sujet, vérifier régulièrement les écarts et optimiser les modèles de mots d’invite.
