Die Kontroverse um die Kindersicherheit bei Grok entwickelt sich zu einer Reihe von Sammelklagen. Am 11. November berichtete Bloomberg, dass mehrere minderjährige Opfer xAI in mehreren Sammelklagen verklagen, weil Grok dazu benutzt wurde, gewöhnliche Fotos in Darstellungen sexuellen Kindesmissbrauchs (CSAM) umzuwandeln; Anwälte schätzen, dass die Zahl der Anspruchsberechtigten in die Tausende gehen könnte. Im Kern geht es um eine Frage, die im KI-Zeitalter noch unbeantwortet ist: Wenn ein Chatbot Inhalte erzeugt, die anderen schaden, trägt dann der Nutzer, der die Anweisung gab, die Verantwortung – oder das Unternehmen, das die Technologie entwickelt hat?
Die Klagen umfassen mehrere bereits eingereichte Verfahren. Im März verklagten Minderjährige aus Tennessee xAI mit dem Vorwurf, jemand habe mit Grok ihre Jahrbuch- und Social-Media-Fotos in pornografische Bilder verwandelt; die Klage wurde später ergänzt um weitere junge Opfer aus Wisconsin, Wyoming und Arkansas, von denen einige zum Zeitpunkt des Missbrauchs erst sechs Jahre alt waren. Im August reichte eine Überlebende sexuellen Kindesmissbrauchs in Kalifornien eine landesweite Sammelklage ein: Sie wirft xAI vor, dass Groks Trainingsdaten zum Teil Bilder enthielten, die sie als Vorschulkind bei Missbrauch zeigten, und dass das Modell auf ihrer Grundlage neue Inhalte erzeugt habe. Ihre Klage fordert Schadenersatz im Namen aller Menschen in den USA, deren Fotos oder Videos aus ihrer Kindheit von Grok verändert und zur Erstellung von Kindesmissbrauchsdarstellungen verwendet wurden.
Der juristische Streit konzentriert sich auf zwei alte Gesetze. Die Kläger berufen sich auf Masha's Law, ein seit Jahrzehnten geltendes Bundesgesetz, das Opfern sexueller Ausbeutung von Kindern finanzielle Entschädigung ermöglicht; auch Paragraf 230 des US-Communications-Decency-Act könnte entscheidend werden – diese Vorschrift befreit Online-Plattformen in der Regel von der Haftung für von Nutzern veröffentlichte Inhalte. Elon Musk betont seit jeher, die Verantwortung liege beim Nutzer, und sagt, Grok erzeuge keine Bilder von sich aus, sondern nur auf Anfrage. Annika Martin, Anwältin der Opfer, argumentiert dagegen, Paragraf 230 könne xAI nicht schützen, denn die Nutzer hätten nur gewöhnliche, vollständig bekleidete Fotos hochgeladen – es sei das Modell selbst gewesen, das sie in Kindesmissbrauchsdarstellungen verwandelt habe. xAI erklärt, das Unternehmen verbiete solche Nutzungen strikt und habe technische Maßnahmen ergriffen, und lehnte eine Stellungnahme mit Verweis auf das laufende Verfahren ab.
Die Wirkung dieser Verfahren reicht längst über den Gerichtssaal hinaus. Im Januar schränkte X unter öffentlichem Druck die Bilderzeugung von Grok auf zahlende Nutzer ein; die Generalstaatsanwälte von 35 US-Bundesstaaten beider Parteien haben xAI gemeinsam schriftlich zu weiteren Maßnahmen aufgefordert; Aufsichtsbehörden in mehreren Ländern ermitteln gegen das Unternehmen. Auch Europa verschärft vergleichbare Regeln: Der EU AI Act fügt am 2. Dezember zwei neue Verbote hinzu, wonach solche KI-generierten Systeme direkt vom Verkauf ausgeschlossen werden. Bislang haben die Ermittlungen gegen xAI jedoch weder zu hohen Bußgeldern noch zu substanziellen Sanktionen geführt. Entscheidend wird sein, ob die Gerichte die Auslegung von Paragraf 230 durch die Kläger übernehmen – das bestimmt nicht nur, wie viel xAI zahlen muss, sondern auch, wie viel Verantwortung jedes Unternehmen für generative KI für die Ausgaben seiner Modelle trägt.
