Le 30 octobre 2026, OpenAI a annoncé deux mesures de sécurité pour la communauté : un rapport sur la sécurité de la communauté, et des limites plus strictes sur les informations liées aux armes que les adolescents peuvent recevoir. Le premier rapport est prévu début 2027, couvrira le second semestre 2026, puis sera mis à jour tous les six mois ; les nouvelles mesures commenceront à être déployées dans les prochaines semaines.
Les détails des attaques passées seront réduits pour tous les utilisateurs
Les nouvelles règles ne visent pas seulement les adolescents. Lorsque ChatGPT répond à des questions sur des attaques de masse passées et leurs auteurs, il fournira moins de détails, même si ces informations sont disponibles ailleurs en ligne. Sont notamment restreints les reconstitutions d'attaques, les détails sur les armes et les équipements utilisés et la façon de se les procurer, ainsi que les comparaisons détaillées de l'ampleur des dommages susceptibles d'amplifier la notoriété d'un agresseur. Les utilisateurs peuvent toujours se renseigner sur les événements eux-mêmes, l'impact sur les victimes et les communautés, la reconnaissance des signes avant-coureurs et la prévention de la violence ; la règle de base demeure : aucune instruction aidant à planifier ou à commettre des violences.
Une conversation montrant des signes de violence pourra être interrompue
En mai, OpenAI avait décrit une approche utilisant de courts résumés factuels des signes avant-coureurs tirés de conversations antérieures, pour que le modèle réponde ensuite avec plus de prudence. Cette annonce s'appuie sur ce travail : lorsque des conversations récentes montrent des signes avant-coureurs de violence possible, ChatGPT se montrera plus prudent en partageant des informations susceptibles d'être détournées ; même sans intention violente apparente, des limites plus strictes s'appliqueront si le système estime que l'utilisateur a moins de 18 ans. Lorsqu'une conversation montre des signes de fixation sur la violence ou sur l'idée de blesser gravement autrui, ChatGPT pourra mettre fin automatiquement à l'échange ; après plusieurs interruptions de ce type, le compte pourra être temporairement suspendu. OpenAI indique avoir transmis plus de 200 cas aux forces de l'ordre au troisième trimestre 2026, concernant des menaces de violence imminentes.
Pour les adolescents : même les questions apparemment inoffensives seront limitées
ChatGPT for Teens, destiné aux moins de 18 ans, applique déjà des protections adaptées à l'âge, et ce cycle les renforce encore : les informations pratiques sur les armes et les systèmes de sécurité que les adolescents peuvent recevoir seront limitées, même si une question isolée semble inoffensive et sans intention violente. Les règles existantes interdisaient déjà d'aider les adolescents à trouver ou à obtenir des armes ; les nouvelles règles s'étendent aux informations pratiques qui pourraient être détournées pour faciliter la violence. Les adolescents peuvent toujours utiliser ChatGPT pour apprendre à prévenir et à désamorcer la violence, chercher du soutien et contacter un adulte de confiance. L'âge est évalué par un système de prédiction de l'âge renforcé, qui analyse en continu des signaux tels que les comportements pour estimer si un utilisateur a moins de 18 ans ; les adultes mal classés peuvent confirmer qu'ils sont majeurs via Persona, le partenaire de vérification, et faire retirer les protections supplémentaires. Les comptes de contrôle parental liés reçoivent des alertes de sécurité, qui incluent depuis juillet les notifications lorsqu'un compte d'adolescent est désactivé pour violation des règles d'usage liées à la violence. Ce site a déjà relayé les risques signalés pour la version adolescents de ChatGPT (/article/2376).
Les limites sont claires elles aussi : la fin automatique des conversations et la suspension des comptes sont encore en cours de développement, et le rapport de sécurité n'aura sa première édition que début 2027, date à laquelle des données d'efficacité seront disponibles. Pour les parents, les enfants recevront moins de réponses aux questions liées aux armes ; mais la prédiction de l'âge peut encore se tromper, et les adultes placés par erreur dans l'expérience réservée aux moins de 18 ans devront accomplir eux-mêmes la procédure de vérification pour en sortir.
