Am 21. September hat die kanadische Provinz British Columbia vor einem Bundesgericht in San Francisco Klage gegen OpenAI und dessen CEO Sam Altman eingereicht. Der Vorwurf: Das Unternehmen habe es vor dem Schul-Amoklauf in Tumbler Ridge im Februar versäumt, die Polizei über Anzeichen zu informieren, dass über ChatGPT Gewalt geplant wurde. Es ist das erste Mal, dass eine Provinzregierung die Sicherheitsverantwortung von KI vor Gericht bringt.
Was die Klage vorwirft
Der Kern der Klageschrift: Das interne Sicherheitsteam von OpenAI habe das ChatGPT-Konto der betreffenden Person bereits im Juni 2025 markiert, darin Gespräche über Schusswaffengewalt gefunden und empfohlen, die Strafverfolgungsbehörden zu kontaktieren – doch das Unternehmen tat es nicht. Justizministerin Niki Sharma erklärte: „Die Menschen in Tumbler Ridge verdienen Antworten und Rechenschaft.“
British Columbia fordert Schadenersatz für die Kosten der Aufarbeitung, darunter psychologische Betreuung und den Wiederaufbau der angegriffenen Schule, sowie eine gerichtliche Anordnung, die OpenAI verpflichtet, den Umgang mit ChatGPT-Dialogen zu ändern, die auf schwere Gewalt hindeuten könnten. Die Klage besagt weiter, Altman habe sich bei der örtlichen Gemeinde entschuldigt und eingeräumt, die Polizei nicht alarmiert zu haben, doch die versprochenen Reformen seien ausgeblieben. Die Provinz hatte bereits im Juli erklärt, rechtliche Schritte zu prüfen; am 21. September wurde die Klage offiziell eingereicht.
OpenAIs Antwort
Ein OpenAI-Sprecher nannte den Amoklauf von Tumbler Ridge eine „unsagbare Tragödie“ und erklärte, das Unternehmen bleibe „der Zusammenarbeit mit Regierungen und Strafverfolgungsbehörden sowie der fortlaufenden Sicherheitsarbeit verpflichtet“. Die bisherige Darstellung des Unternehmens: Die interne Prüfung habe seinerzeit keine „glaubwürdige und unmittelbar bevorstehende Planung“ gefunden, die die Schwelle für eine Meldung an die Strafverfolgung erreicht hätte – nach den aktualisierten Verfahren würden solche Fälle heute jedoch gemeldet.
Bemerkenswert ist der Kontext: Es ist nicht die erste Klage. Mehr als 30 Angehörige von Opfern haben OpenAI bereits vor einem kalifornischen Bundesgericht verklagt und werfen dem Unternehmen vor, die Chance verpasst zu haben, den Amoklauf zu verhindern. Bevor die Regierung auftrat, war die Aufarbeitung einzelner Fälle längst im Gang.
Warum diese Klage anders wiegt
Klagen Einzelner zielen auf Verantwortung im Einzelfall; tritt eine Provinzregierung auf, wird die Frage zur Systemfrage: Besteht eine rechtliche Pflicht zur Warnung der Strafverfolgung, wenn die internen Sicherheitsprozesse eines KI-Unternehmens bereits rot blinken? Und wer legt die Schwelle fest – das Unternehmen selbst oder die Aufsicht?
Der Fall berührt auch einen heikleren Zielkonflikt: die Privatsphäre der Nutzerdialoge gegen das Warnbedürfnis der öffentlichen Sicherheit. OpenAI verarbeitet täglich riesige Dialogmengen; Markierung, Eskalation und Meldung durch das Sicherheitsteam brauchen klare Regeln. Zu lockere Regeln – und die Kosten eines übersehenen Hinweises können Menschenleben sein; zu strenge – und Fehlalarme untergraben das Nutzervertrauen und erzeugen enormen operativen Aufwand. Zum ersten Mal wird ein Gericht diese Waage im KI-Kontext abwägen.
Was das bedeutet
Wie auch immer der Prozess ausgeht: Er zieht eine neue Rechenschaftslinie für die gesamte Branche. Die Protokolle interner Sicherheitsprüfungen werden zu Beweismitteln vor Gericht. KI-Unternehmen können „wir haben intern hingesehen“ nicht länger als Endpunkt betrachten – was danach getan und warum etwas unterlassen wurde, wird Punkt für Punkt geprüft werden.
Für Praktiker lautet die direkte Lehre: Interne Verfahren für Hochrisiko-Inhalte wie Gewalt oder Selbstverletzung brauchen prüfbare, erklärbare Meldekriterien – und sie gehören in öffentlich einsehbare Sicherheitsrichtlinien, nicht nur ins interne Handbuch. Für Regulierer könnte diese Klage die Gesetzgebungsdebatte über eine „Warnpflicht für KI-Unternehmen“ in vielen Ländern beschleunigen. Sicherheitsausgaben werden erstmals vom Kostenfaktor zum Rechtsrisiko.
