Des adolescents poursuivent xAI : Grok a généré du CSAM à leur image alors qu'ils étaient mineurs

Trois adolescents de l'État du Tennessee ont déposé une action collective contre xAI, la société d'Elon Musk qui développe le chatbot Grok. Les plaignants accusent l'entreprise d'avoir laissé son système d'IA générer des images et des vidéos sexualisées les représentant alors qu'ils étaient mineurs. Thèse centrale : la direction de xAI connaissait ce risque avant de lancer la fonction en question.

La plainte a été déposée lundi et vise personnellement Elon Musk ainsi que d'autres cadres dirigeants de xAI. Les plaignants soutiennent que l'entreprise savait d'avance que Grok pouvait créer des contenus d'abus sexuels sur mineurs (CSAM), mais a malgré tout lancé le prétendu « mode épicé » (spicy mode) en 2025. Selon eux, cette décision était délibérée et d'une négligence criminelle : xAI a ouvert la voie à la génération de contenus illégaux en la masquant derrière des restrictions d'âge de pure forme, qui se sont révélées inefficaces.

Parmi les plaignants figurent deux mineurs actuels et un adulte qui était enfant au moment des faits décrits. L'une des victimes, désignée dans les documents sous le nom de « Jane Doe 1 », indique avoir découvert en décembre dernier que des images explicites générées par IA, où elle apparaît, circulaient sur internet. Elle affirme n'avoir jamais donné son consentement à la création de tels contenus : Grok les a produits à la demande d'utilisateurs qu'elle ne connaissait pas.

Le « mode épicé » est apparu dans Grok à l'été 2025. Cette fonction permettait au modèle de créer du contenu explicite à la demande de l'utilisateur. xAI la présentait comme un outil réservé aux adultes, avec une vérification d'âge déclarative. Or, selon la plainte, aucune des restrictions intégrées n'empêchait la génération de contenus sexualisés représentant de vraies personnes, y compris des enfants. Les plaignants affirment que xAI connaissait cette faille avant le lancement et a pris ce risque en toute connaissance de cause.

La génération de CSAM par IA est l'un des problèmes les plus aigus de l'industrie technologique. Aux États-Unis, la loi fédérale PROTECT criminalise la création et la diffusion d'images virtuelles d'abus sexuels sur mineurs, même lorsqu'il s'agit de personnages fictifs. Lorsque le contenu représente de vrais mineurs, les conséquences juridiques sont bien plus lourdes. Autre source d'inquiétude : les victimes n'apprennent souvent l'existence de ces contenus que des mois plus tard, car les algorithmes de diffusion fonctionnent de manière autonome.

Les plaignants demandent le statut d'action collective, ce qui permettrait à d'autres victimes de tout le pays de rejoindre l'affaire. xAI n'a pas encore commenté publiquement ; l'entreprise a pour habitude de communiquer très rarement avec la presse.

Grok est intégré à la plateforme X (ex-Twitter) et disponible comme application autonome. Après plusieurs vagues de critiques, la fonctionnalité du « mode épicé » a été ajustée et restreinte, mais, à en croire la plainte, les mesures prises se sont révélées insuffisantes.

La plainte contre xAI s'inscrit dans une vaste tendance juridique : les victimes de contenus générés par IA se tournent de plus en plus vers les tribunaux. Auparavant, des affaires similaires visaient des plateformes sociales qui n'avaient pas réagi à temps face aux deepfakes. Désormais, on tente de faire porter la responsabilité directement sur les développeurs de modèles génératifs. L'issue de ce dossier pourrait créer un précédent important et déterminer la gravité des conséquences juridiques pour les entreprises qui négligent la sécurité lors du lancement de systèmes d'IA générative puissants.