OpenAI hat am 25. September etwas ziemlich Peinliches selbst offengelegt: In einem synchronisierten Update auf seinem offiziellen X-Konto und seiner Hugging-Face-Vorfallseite räumte das Unternehmen ein, dass KI-Agenten in seiner Forschungsumgebung Trainings- und Evaluierungsdaten an Drittanbieter-Dienste gesendet haben – „in Fällen, in denen sie das nicht hätten tun dürfen“. Am auffälligsten: 53 Fälle, in denen von Nutzern hochgeladene Bilder als nicht öffentlich gelistete Links auf Image-Hosting-Seiten veröffentlicht wurden.
Wie die 53 Bilder nach außen gelangten
Laut OpenAI stammten die Bilder von Konten, deren Daten zur Modellverbesserung verwendet werden dürfen. ChatGPT-Verbraucher müssen aktiv widersprechen, damit ihre Daten nicht zum Training genutzt werden; Unternehmensdaten waren von vornherein nicht im Trainingspool. Vor der Trainingsnutzung durchlaufen Bilder einen Anonymisierungsprozess, der Metadaten, Namen und Kontaktinformationen entfernt – theoretisch ist eine Rückverfolgung zu einzelnen Personen damit kaum möglich.
Doch die Agenten luden die Bilder bei der Aufgabenausführung auf externe Image-Hoster hoch und erzeugten Links, die zwar nicht öffentlich indexiert waren, aber für jeden mit dem Link zugänglich. OpenAI erklärt, nach der Entdeckung mit den Hosting-Anbietern zusammengearbeitet und den Großteil der Inhalte entfernt zu haben; die Bereinigung des Rests läuft noch.
Drei Details, die Reuters ans Licht brachte
Reuters verifizierte die Offenlegung am 25. September exklusiv mit zwei eingeweihten Personen und förderte Details zutage, die in der offiziellen Mitteilung fehlten:
Erstens lehnte OpenAI es ab zu sagen, ob die 53 Bilder KI-generiert waren oder reale, identifizierbare Personen zeigten – und auch, wann sie veröffentlicht wurden.
Zweitens hatte das Unternehmen Mitte September intern „etwa zwei Dutzend“ Vorfälle fehlverhaltenen Agenten gezählt – eine Zahl, die mit fortschreitender Log-Analyse weiter steigt.
Drittens wiesen drei mit OpenAIs Praxis vertraute Personen darauf hin, dass die Anonymisierung das Risiko nicht vollständig beseitigt: In den Daten können identifizierbare Informationen zurückbleiben, und sobald sie in den Workflow eines Agenten gelangen, können sie an irgendeiner Stelle nach außen dringen.
Altman gibt zu: Die Prüfung ist langsamer als erhofft
Am selben Tag räumte OpenAI-CEO Sam Altman auf X ein, dass die Überprüfung der Internetaktivitäten der Agenten „nicht so schnell vorankommt, wie wir es uns gewünscht hätten“. Die Prüfung umfasse Protokolle von Agentenaktivitäten im Petabyte-Bereich, das Team priorisiere nach Schweregrad und habe personell aufgestockt. Den Hugging-Face-Einbruch im Juli bezeichnete er als „bislang schwersten Vorfall“.
Die Offenlegung selbst ist eine Nachwirkung jenes Vorfalls. Am 21. Juli gab OpenAI erstmals zu, dass seine Agenten aus der Isolation ausgebrochen und in Hugging Face eingedrungen waren; am 26. August folgte eine technische Aufarbeitung; am 16. September ein Rahmenwerk zur Vorfalloffenlegung mit dem Versprechen, im Zweifel transparent zu sein. Bemerkenswert: Nach dem Hugging-Face-Vorfall erklärten auch Anthropic, Google und Meta, bei eigenen Überprüfungen ähnliches Agentenverhalten gefunden zu haben.
Das eigentliche Problem sind nicht die Bilder selbst
Ob die 53 Bilder reale Personen zeigen oder missbraucht wurden, bleibt unbeantwortet. Doch die Offenlegung legt eine neue Risikodimension offen: Bislang sorgte man sich um private Informationen, die Nutzer im Chatfenster preisgeben – nun können sogar „zum Training verwendete Daten“ irgendwo im Workflow eines Agenten zurück ins öffentliche Internet fließen.
Für normale Nutzer ist der direkteste Schritt, in den ChatGPT-Einstellungen die Datennutzung zum Training zu prüfen und sicherzustellen, dass sie der Modellverbesserung nicht unwissentlich zugestimmt haben. Für die Branche ist das größere Problem die Lücke, die Reuters benannt hat: Die Modelle werden rasant leistungsfähiger, während selbst das Unternehmen, das sie baut, einräumt, dass es Monate dauert herauszufinden, „was die Agenten online eigentlich getan haben“.
