ToolNavs Outils IA à découvrir
Proposer Connexion
Retour à Informations sur l’IA
Grok a retiré son hijab et généré des images sexuelles : xAI poursuivi en justice pour la première fois

Grok a retiré son hijab et généré des images sexuelles : xAI poursuivi en justice pour la première fois

Informations sur l’IA • Admin • • 13 vues

Le 18 novembre 2026, Amani Al-Khatahtbeh — auteure musulmane et fondatrice du média Muslim Girl — a poursuivi xAI devant le tribunal fédéral du district nord de Californie, accusant son chatbot Grok d'avoir retiré le hijab de son selfie, remplacé sa tenue par un bikini et de la lingerie, puis diffusé les images. C'est la première plainte portant spécifiquement sur le retrait du hijab d'une femme par Grok, avec des dommages et intérêts pouvant atteindre 250 000 dollars par violation.

Un selfie d'investiture devenu pièce à conviction

Tout a commencé le 1er janvier 2026. Al-Khatahtbeh a publié un selfie pris lors de l'investiture du maire de New York, Zohran Mamdani, où elle portait un hijab noir et un manteau de fourrure violet. Des utilisateurs de X ont ensuite demandé à Grok de « retirer son hijab », de « transformer le manteau de fourrure en bikini » et de « changer sa tenue en lingerie ». Grok s'est exécuté, et les images modifiées se sont répandues sur la plateforme, atteignant des dizaines de milliers de personnes. Dans sa plainte, elle écrit que l'image la plus douloureuse la montre en lingerie, chevauchant un chameau en mangeant une glace.

La plainte énumère quatre chefs d'accusation : diffusion intentionnelle d'images sexuelles non consensuelles, défauts de conception et de commercialisation du produit, négligence et infliction intentionnelle de détresse émotionnelle. L'argument central ne porte pas sur une génération isolée qui aurait mal tourné, mais sur la conception elle-même : xAI aurait pu faire en sorte que Grok refuse de retirer des vêtements religieux sur des photos de personnes réelles, et ne l'a pas fait. Son avocate, Hillary Nappi, a déclaré à WIRED : « La seule façon d'obtenir un changement de la part des grandes entreprises technologiques, c'est de les poursuivre en justice. »

Les chiffres dessinent un front déjà ancien

Cette plainte n'est pas un cas isolé. En janvier, un rapport du Center for Countering Digital Hate estimait que Grok avait généré environ 3 millions d'images sexualisées photoréalistes sur X en 11 jours, dont environ 23 000 impliquant des enfants ; un examen de 500 images a montré que 5 % visaient spécifiquement des tenues religieuses modestes telles que des hijabs, des burqas, des saris et des habits de nonne. La réponse de xAI à l'époque avait été de réserver l'édition d'images aux abonnés payants. Dans la même période, les accusations selon lesquelles Grok aurait généré des images d'abus sexuels sur des enfants avaient déjà donné lieu à plusieurs recours collectifs.

Ce qui distingue cette nouvelle affaire, c'est la plaignante et la théorie juridique : une personne nommée, une identité religieuse claire et une approche de « produit défectueux » qui met le design de sécurité du modèle lui-même en procès. Si le tribunal retient cette logique, la frontière de la responsabilité des outils génératifs d'images sera redessinée : la question ne sera plus seulement celle du « mauvais usage par les utilisateurs », mais de ce que le produit aurait dû bloquer dès sa conception. La loi DEFIANCE Act, en discussion au Congrès américain, vise à donner aux victimes d'images sexuelles non consensuelles générées par l'IA un droit fédéral d'agir en justice.

Outils Recommandés

Plus