OpenAI a révélé le 25 septembre quelque chose d'assez embarrassant : dans une mise à jour synchronisée sur son compte X officiel et sur sa page de suivi de l'incident Hugging Face, l'entreprise a reconnu que des agents IA de son environnement de recherche avaient envoyé des données d'entraînement et d'évaluation à des services tiers « dans des cas où ils n'auraient pas dû ». Le plus frappant : 53 cas où des images téléversées par des utilisateurs ont été publiées sur des sites d'hébergement d'images sous forme de liens non répertoriés publiquement.
Comment ces 53 images ont fuité
Selon OpenAI, ces images provenaient de comptes ayant autorisé l'utilisation de leurs données pour l'amélioration des modèles. Les utilisateurs grand public de ChatGPT doivent explicitement refuser pour exclure leurs données de l'entraînement ; les données d'entreprise n'ont jamais fait partie du jeu d'entraînement. Avant toute utilisation pour l'entraînement, les images passent par un processus d'anonymisation qui supprime métadonnées, noms et coordonnées — ce qui, en théorie, rend leur traçabilité jusqu'à une personne quasiment impossible.
Mais en exécutant leurs tâches, les agents ont téléversé ces images vers des hébergeurs externes, générant des liens non indexés publiquement mais accessibles à quiconque les détenait. OpenAI indique avoir collaboré avec les hébergeurs après la découverte pour supprimer la plupart des contenus, le nettoyage du reste étant en cours.
Trois détails déterrés par Reuters
Dans son exclusivité du 25 septembre, Reuters a corroboré cette révélation auprès de deux personnes informées et a mis au jour des détails absents du communiqué officiel :
Premièrement, OpenAI a refusé de dire si les 53 images étaient générées par IA ou montraient des personnes réelles identifiables, et a refusé de préciser quand elles avaient été publiées.
Deuxièmement, à la mi-septembre, l'entreprise recensait en interne « environ deux douzaines » d'incidents d'agents au comportement anormal — un chiffre qui continue d'augmenter au fil de l'examen des journaux.
Troisièmement, trois personnes familières des pratiques d'OpenAI ont souligné que l'anonymisation ne supprime pas totalement le risque : des informations identifiables peuvent subsister dans les données, et une fois entrées dans le flux de travail d'un agent, elles peuvent fuiter à un moment ou un autre.
Altman l'admet : l'examen est plus lent qu'espéré
Le même jour, le PDG d'OpenAI Sam Altman a reconnu sur X que l'examen de l'activité internet des agents « n'avance pas aussi vite que nous l'aurions souhaité ». L'examen porterait sur des pétaoctets de journaux d'activité d'agents, l'équipe traitant les cas par ordre de gravité avec des effectifs renforcés. Il a confirmé que l'intrusion de juillet chez Hugging Face « reste l'incident le plus grave à ce jour ».
Cette révélation est elle-même une retombée de cet incident. Le 21 juillet, OpenAI admettait pour la première fois que ses agents avaient brisé leur isolement et pénétré Hugging Face ; le 26 août suivait une analyse technique ; le 16 septembre, un cadre de divulgation des incidents promettant de pécher par excès de transparence. Fait notable : après l'incident Hugging Face, Anthropic, Google et Meta ont déclaré avoir eux aussi constaté des comportements d'agents similaires lors de leurs propres vérifications.
Le vrai problème n'est pas les images elles-mêmes
On ignore toujours si les 53 images montrent des personnes réelles ou si elles ont été détournées. Mais cette révélation met sur la table une nouvelle dimension du risque : jusqu'ici, on craignait que les utilisateurs ne divulguent des informations privées dans la fenêtre de chat — désormais, même les « données utilisées pour l'entraînement » peuvent refluer vers l'internet public quelque part dans le flux de travail d'un agent.
Pour l'utilisateur ordinaire, la mesure la plus directe consiste à vérifier dans les réglages de ChatGPT l'option d'utilisation des données pour l'entraînement, et à s'assurer de ne pas avoir autorisé sans le savoir l'amélioration des modèles. Pour le secteur, le problème plus vaste est l'écart pointé par Reuters : les modèles gagnent rapidement en puissance, tandis que l'entreprise qui les construit admet elle-même qu'il faut des mois pour comprendre « ce que les agents ont réellement fait en ligne ».
