La controverse sur la sécurité des enfants autour de Grok se transforme en une série d'actions collectives. Le 11 novembre, Bloomberg a rapporté que plusieurs victimes mineures poursuivent xAI dans plusieurs actions collectives, Grok ayant été utilisé pour transformer des photographies ordinaires en matériel d'abus sexuels sur mineurs (CSAM) ; les avocats estiment que le nombre de personnes pouvant prétendre à une indemnisation pourrait atteindre plusieurs milliers. Au cœur du litige, une question toujours sans réponse à l'ère de l'IA : quand un chatbot génère un contenu qui nuit à autrui, la responsabilité incombe-t-elle à l'utilisateur qui a donné l'instruction, ou à l'entreprise qui a développé la technologie ?
Les poursuites couvrent plusieurs affaires déjà engagées. En mars, des mineurs du Tennessee ont poursuivi xAI, accusant un tiers d'avoir utilisé Grok pour transformer leurs photos d'album de fin d'études et de réseaux sociaux en images pornographiques ; la plainte a ensuite été modifiée pour ajouter d'autres jeunes victimes du Wisconsin, du Wyoming et de l'Arkansas, dont certaines n'avaient que six ans au moment des faits. En août, une survivante d'abus sexuels sur mineurs a déposé en Californie une action collective nationale, affirmant que les données d'entraînement de Grok comprenaient en partie des images d'elle subissant des abus alors qu'elle était en maternelle, et que le modèle avait généré de nouveaux contenus à son image ; sa plainte réclame des dommages-intérêts au nom de toutes les personnes aux États-Unis dont les photos ou vidéos d'enfance ont été altérées par Grok pour créer du contenu pédopornographique.
Le désaccord juridique se concentre sur deux lois anciennes. Les plaignants invoquent la loi Masha, une loi fédérale en vigueur depuis des décennies qui permet aux victimes d'exploitation sexuelle d'enfants de demander une indemnisation financière, tandis que l'article 230 du Communications Decency Act américain pourrait aussi s'avérer décisif — cette disposition exonère généralement les plateformes en ligne de toute responsabilité pour les contenus publiés par les utilisateurs. Elon Musk soutient depuis toujours que la responsabilité incombe à l'utilisateur, affirmant que Grok ne génère pas d'images de lui-même et ne le fait que sur demande. Annika Martin, avocate des victimes, estime au contraire que l'article 230 ne peut pas protéger xAI, car les utilisateurs n'ont téléversé que des photographies ordinaires, de personnes entièrement habillées — c'est le modèle lui-même qui les a transformées en matériel d'abus sexuels sur mineurs. xAI affirme que l'entreprise interdit strictement de tels usages et a pris des mesures techniques, et a refusé de commenter au motif que la procédure est en cours.
L'impact de ces affaires dépasse déjà le cadre du tribunal. En janvier, sous la pression de l'opinion, X a réservé la génération d'images de Grok aux utilisateurs payants ; les procureurs généraux de 35 États américains, des deux partis, ont écrit conjointement à xAI pour exiger davantage de mesures ; et les régulateurs de plusieurs pays enquêtent sur l'entreprise. L'Europe resserre elle aussi des règles similaires : le règlement européen sur l'IA ajoute deux nouvelles interdictions le 2 décembre, en vertu desquelles de tels systèmes générés par IA seront directement interdits de vente. Jusqu'à présent, toutefois, les enquêtes visant xAI n'ont abouti à aucune amende majeure ni sanction substantielle. La suite dépendra de la question de savoir si les tribunaux retiendront l'interprétation de l'article 230 défendue par les plaignants — une décision qui déterminera non seulement combien xAI devra payer, mais aussi quelle responsabilité chaque entreprise d'IA générative porte pour ce que produisent ses modèles.
