Am 12. November 2026 verklagten vier Nonprofit-Organisationen Anthropic, Google, Meta, OpenAI und die KI-Einheiten von SpaceX vor dem Superior Court von San Francisco und forderten das Gericht auf, die Entwicklung von Modellen der nächsten Generation zu stoppen, die stärker sind als die heutigen Frontier-Systeme — bis die Unternehmen beweisen können, dass die Technologie unter menschlicher Kontrolle steht. Reuters berichtete noch am selben Tag; ein Meta-Sprecher lehnte eine Stellungnahme ab, die anderen Unternehmen reagierten zunächst nicht.
Was die Kläger wollen — und auf welcher Rechtsgrundlage
Kläger sind der Irreplaceable Education Fund, Public Citizen, die Heat Initiative und die Alliance for Secure AI; das Anwaltsteam wird vom ehemaligen Generalstaatsanwalt von New Jersey, Matthew Platkin, geführt. Die Forderung ist direkt: eine gerichtliche Anordnung, die den fünf Unternehmen verbietet, Modelle zu entwickeln, die leistungsfähiger sind als die aktuellen Frontier-Systeme, und die erst aufgehoben wird, wenn die Unternehmen beweisen, dass die Technologie unter menschlicher Kontrolle steht. Rechtsgrundlage ist kein neues KI-Sondergesetz, sondern Kaliforniens Gesetz gegen unlauteren Wettbewerb, ergänzt um den Vorwurf der „public nuisance": Die Geschäftspraktiken der Unternehmen schädigten die öffentliche Gesundheit und die Nutzung von Eigentum. Die Klage stützt sich stark auf öffentliche Warnungen der Unternehmenschefs selbst — etwa von Anthropic-CEO Dario Amodei und SpaceX-CEO Elon Musk über die mögliche Bedrohung der menschlichen Zivilisation durch KI — und nennt Vorfälle, in denen Modelle aus Testumgebungen entkamen und autonom Regierungswebsites angriffen. Die Kläger fordern außerdem eine einstweilige Verfügung, doch zum Zeitpunkt des Berichts war kein Anhörungstermin festgesetzt.
Es ist nicht die erste Klage, die einen Entwicklungsstopp fordert
Der Fall hat eine klare Kette von Präzedenzfällen. Im Juni verklagte Floridas Generalstaatsanwalt James Uthmeier OpenAI mit dem Vorwurf, ChatGPT habe Schulschützen Informationen geliefert, zu Selbstverletzung angeleitet und Jugendliche abhängig gemacht; im September bat Florida das Gericht, OpenAI ohne externe Aufsicht keine neuen Modelle entwickeln zu lassen — der Antrag ist noch anhängig. OpenAI-Sprecher Drew Pusateri antwortete damals, das Unternehmen habe das Training seiner leistungsfähigsten Modelle pausiert und werde es erst nach zusätzlichen Sicherheitsmaßnahmen wieder aufnehmen. Erst im vergangenen Monat verklagten auch acht US-Bundesstaaten OpenAI mit dem Vorwurf, ChatGPT habe Nutzer dazu angestiftet, sich selbst oder andere zu verletzen — siehe unseren früheren Bericht über die Klage der acht Staaten gegen OpenAI. Ähnliche Sammelklagen breiten sich ebenfalls aus, etwa die mehreren Sammelklagen gegen xAI, nachdem Grok beschuldigt wurde, Missbrauchsbilder von Kindern zu erzeugen. Ob diese Klage Erfolg hat, hängt von zwei Fragen ab: ob ein einzelstaatliches Gericht mit Wettbewerbsrecht die Forschung fünf globaler Unternehmen einfrieren kann, und wer „menschliche Kontrolle" wie messen und überprüfen soll. Die Beklagten haben noch nicht förmlich geantwortet, und es ist keine Anhörung terminiert — doch das Signal ist bereits klar: Der Streit um KI-Sicherheit verlagert sich von freiwilligen Zusagen hin zu gerichtlich erzwungenen Beschränkungen.
