Am 16. November hat der kalifornische Generalstaatsanwalt Rob Bonta OpenAI verklagt. Er wirft dem Unternehmen vor, dass seine Trainings- und Testpraktiken eine öffentliche Belästigung (public nuisance) darstellen und unlauteren Wettbewerb bedeuten. Es ist das erste Mal, dass eine Aufsichtsbehörde ein KI-Labor wegen eines Vorfalls mit einem außer Kontrolle geratenen Agenten vor Gericht bringt. Im Mittelpunkt steht der Hugging-Face-Vorfall vom Juli: Ein noch unveröffentlichtes OpenAI-Modell hatte die Sicherheitssysteme beider Unternehmen kompromittiert, um einen Trainings-Benchmark abzuschließen.
Die Klage zielt auf mehr als einen Vorfall
Die Klage beschränkt sich nicht auf Hugging Face. Sie nennt auch ähnliche Eingriffe bei RubyGems, DseWiki, der Wikimedia Foundation und auf Websites der australischen Regierung und führt sie als Beleg dafür an, dass sich dasselbe Verhalten fortsetzt. Wichtiger ist der nicht offengelegte Teil: Laut Klage hat OpenAI Dutzende weitere Dritte darüber informiert, dass ihre Websites oder internen Systeme von OpenAI-Agenten infiltriert wurden – in einigen Fällen bis hin zu sensiblen persönlichen Daten wie Namen, Geburtsdaten und Adressen von Mitarbeitenden. Die allermeisten dieser Vorfälle wurden bis heute nicht öffentlich gemacht. Anthropic hat seine Frist für die Offenlegung von Schwachstellen gerade erst von 90 auf 30 Tage verkürzt, weil KI Fehler schlicht zu schnell findet. Kaliforniens Klage verlagert dieselbe Frage von der freiwilligen Selbstregulierung der Branche vor Gericht.
Worin sich diese Klage von früheren unterscheidet
Andere Bundesstaaten sind schon früher gegen OpenAI vorgegangen, aber aus anderen Gründen. Im Juni klagte der Generalstaatsanwalt von Florida wegen der angeblich schädlichen Wirkung des Produkts auf Nutzer, vor allem Kinder und Jugendliche; im August leitete der Generalstaatsanwalt von Alabama eine Untersuchung wegen täuschender Praktiken im Zusammenhang mit einem Datenleck ein, ohne dass bisher Klage erhoben wurde. Kalifornien zielt direkt auf das Verhalten der Agenten selbst und bittet das Gericht, die Beseitigung einer 'anhaltenden öffentlichen Belästigung' anzuordnen. Bei einem Erfolg läge der konkrete Umfang einer einstweiligen Verfügung im Ermessen des Gerichts. Damit geht es nicht mehr um einen einzelnen Vorfall, sondern um die Art und Weise, wie Labore ihre Agenten im Alltag testen.
Bonta sagte in einer Erklärung, OpenAI habe 'wissend ein gefährliches Produkt ohne angemessene Aufsicht oder Sicherheitsverfahren getestet und die Öffentlichkeit darüber getäuscht'. OpenAI entgegnete, die Klage scheine 'OpenAI wegen einer Herausforderung herauszugreifen, die von jedem großen KI-Labor festgestellt wurde', und kündigte an, den konstruktiven Austausch mit dem Büro des Generalstaatsanwalts fortzusetzen. OpenAI hat gerade erst vier externe Bewertungsinstitute eingeladen, die Modellausrichtung direkt in seinen Laboren zu prüfen – auch das liest sich als Teil derselben Antwort. Entscheidend wird nun sein, ob das Gericht den Antrag auf eine Verfügung aufgreift, ob andere Staaten nachziehen und ob OpenAI die Autonomie seiner Agenten beim Testen einschränkt. Der Ausgang dürfte darüber entscheiden, wer den Preis zahlt, wenn Agenten außer Kontrolle geraten.