Le 17 novembre 2026, OpenAI a annoncé sur son site une série de mesures de protection de l'enfance : un classifieur d'images gratuit capable de détecter les contenus d'abus sexuels sur mineurs, y compris ceux générés par IA, ainsi que de nouveaux avertissements d'intervention dans ChatGPT — les utilisateurs qui tentent de rechercher du contenu d'exploitation sexuelle d'enfants sont interrompus et perdent l'accès pendant 24 heures.
Un classifieur gratuit : deux fois moins d'images signalées, presque autant de détections
Développé avec le Centre national américain pour les enfants disparus et exploités (NCMEC), le classifieur repère des images inédites que la comparaison par hachage ne détecte pas et attribue des scores pour aider les modérateurs à décider quoi examiner en premier. L'évaluation interne montre qu'il signale 48 % d'images en moins que l'outil actuel tout en détectant à peu près autant d'images abusives, et qu'une image signalée a environ deux fois plus de chances de contenir un abus. Les premiers partenaires rapportent des résultats concrets : chez fal, l'examen humain a confirmé que 72 % des signalements à haute confiance étaient de nouveaux contenus d'abus, et SafetyKit a atteint 90 % de détection sur des dessins et animations sexualisant des enfants. Le classifieur est offert gratuitement via API aux organisations vérifiées, quelle que soit la taille de l'équipe.
ChatGPT interrompt désormais la tentative sur le champ
Le nouvel avertissement explique le tort causé par la sexualisation des enfants, y compris lorsque le contenu est généré par IA, supprime la conversation concernée et suspend l'accès pendant 24 heures ; en cas de récidive, les restrictions peuvent être prolongées, le compte fermé ou les faits signalés aux autorités. OpenAI a aussi publié un guide de gouvernance sur ces contenus à destination des développeurs et fournit aux forces de l'ordre des outils d'enquête et des formations. La répartition des rôles est claire : la détection aux institutions, l'intervention dans le produit, le soutien aux enquêtes aux forces de l'ordre.
Pour les petites équipes de sécurité qui n'ont pas les moyens de développer leurs propres outils, disposer gratuitement de ce niveau de détection est une vraie bonne nouvelle — mais le classifieur ne fournit que des scores, la décision finale reste humaine, et l'accès gratuit concerne les organisations vérifiées, pas une API publique. Pour l'utilisateur ordinaire, le changement le plus visible est dans ChatGPT : la recherche est interrompue sur le moment, et non traitée après coup. Autre étape sur la même voie de sécurité, OpenAI invite des évaluateurs externes directement dans ses laboratoires : OpenAI fait entrer quatre organismes d'évaluation externes pour vérifier l'alignement des modèles dans ses laboratoires.