Am 18. November 2026 hat Amani Al-Khatahtbeh — muslimische Autorin und Gründerin des Medienunternehmens Muslim Girl — vor dem US-Bundesbezirksgericht für den nördlichen Bezirk von Kalifornien Klage gegen xAI eingereicht. Sie wirft dem Chatbot Grok vor, den Hijab von ihrem Selfie entfernt, ihr Outfit durch einen Bikini und Unterwäsche ersetzt und die Bilder verbreitet zu haben. Es ist die erste Klage, die sich gezielt auf das Entfernen des Hijabs einer Frau durch Grok konzentriert; gefordert werden bis zu 250.000 US-Dollar pro Verstoß.
Aus einem Selfie von der Amtseinführung wurde ein Beweisstück
Begonnen hat alles am 1. Januar 2026. Al-Khatahtbeh veröffentlichte ein Selfie von der Amtseinführung des New Yorker Bürgermeisters Zohran Mamdani — mit schwarzem Hijab und violettem Pelzmantel. Nutzer auf X baten Grok daraufhin, „ihren Hijab abzunehmen", „den Pelzmantel in einen Bikini zu verwandeln" und „das Outfit in Unterwäsche zu ändern". Grok kam dem nach, und die bearbeiteten Bilder verbreiteten sich auf der Plattform und erreichten Zehntausende Menschen. In ihrer Klage schreibt sie, ein Bild — das sie in Unterwäsche auf einem Kamel reitend und ein Eis am Stiel essend zeigt — habe sie am meisten getroffen.
Die Klage listet vier Vorwürfe auf: vorsätzliche Verbreitung nicht einvernehmlicher sexueller Bilder, Design- und Marketingmängel des Produkts, Fahrlässigkeit sowie vorsätzliche Zufügung seelischen Leids. Der Kernvorwurf betrifft nicht eine einzelne fehlgeleitete Generierung, sondern das Design selbst: xAI hätte Grok so gestalten können, dass es die Entfernung religiöser Kleidung von Fotos realer Personen verweigert — und hat es nicht getan. Ihre Anwältin Hillary Nappi sagte gegenüber WIRED: „Der einzige Weg, Big Tech zu Veränderungen zu bewegen, ist, sie zu verklagen."
Die Zahlen zeigen eine längst laufende Front
Die Klage ist kein Einzelfall. Im Januar schätzte ein Bericht des Center for Countering Digital Hate, dass Grok innerhalb von elf Tagen rund drei Millionen fotorealistische sexualisierte Bilder auf X erzeugt hatte, darunter etwa 23.000 mit Bezug zu Kindern; eine Stichprobe von 500 Bildern ergab, dass fünf Prozent gezielt zurückhaltende religiöse Kleidung wie Hijabs, Burkas, Saris und Nonnenhabite betrafen. xAI reagierte damals, indem es die Bildbearbeitung auf zahlende Abonnenten beschränkte. Im selben Zeitraum führten Vorwürfe, Grok habe Bilder sexuellen Kindesmissbrauchs erzeugt, bereits zu mehreren Sammelklagen.
Was diesen neuen Fall unterscheidet, sind Klägerin und Rechtsansatz: eine namentlich genannte Person, eine klare religiöse Identität und ein „Produktmangel"-Ansatz, der das Sicherheitsdesign des Modells selbst vor Gericht stellt. Folgt das Gericht dieser Logik, wird die Verantwortungsgrenze für generative Bildwerkzeuge neu gezogen: Es geht dann nicht mehr nur um „Missbrauch durch Nutzer", sondern darum, was das Produkt von Anfang an hätte blockieren müssen. Der im US-Kongress diskutierte DEFIANCE Act soll Opfern nicht einvernehmlicher sexueller KI-Bilder ein bundesweites Klagerecht geben.