Des adolescents poursuivent xAI : Grok a généré du CSAM représentant des mineurs

Trois adolescents de l'État du Tennessee ont intenté une action en justice collective contre xAI — la société d'Elon Musk qui développe le chatbot Grok. Les demandeurs accusent la société d'avoir permis à son système d'IA de générer des images et des vidéos sexualisées les montrant en tant que mineurs. Le point central de l'accusation : la direction de xAI connaissait ce risque avant de lancer la fonctionnalité en question.

L'action a été intentée lundi et est adressée personnellement à Musk ainsi qu'à d'autres cadres supérieurs de xAI. Les demandeurs insistent sur le fait que l'entreprise était consciente à l'avance que Grok pouvait créer du matériel d'abus sexuel d'enfants (CSAM), mais a quand même lancé le soi-disant « mode épicé » (spicy mode) en 2025. Selon les demandeurs, cette décision était délibérée et criminellement négligente — xAI a activé la génération de contenu illégal tout en se cachant derrière des restrictions d'âge formelles qui se sont avérées inefficaces.

Parmi les demandeurs se trouvent deux mineurs actuels et un adulte qui était enfant au moment des événements décrits. L'une des victimes, désignée dans les documents sous le nom de « Jane Doe 1 », rapporte avoir découvert la distribution sur Internet d'images explicitement générées par l'IA la montrant en décembre de l'année dernière. Selon elle, elle n'a donné aucun consentement pour créer tel contenu — il a été généré par Grok sur la base de demandes d'utilisateurs qu'elle ne connaissait pas.

Le « mode épicé » est apparu dans Grok à l'été 2025. La fonctionnalité permettait au modèle de créer du contenu explicite à la demande de l'utilisateur. xAI l'a présenté comme un outil destiné aux adultes avec vérification d'âge déclarée.

Cependant, selon les documents de l'action, aucune des restrictions intégrées n'a empêché la génération de contenu sexualisé mettant en scène des personnes réelles, notamment des enfants. Les demandeurs soutiennent que xAI connaissait cette vulnérabilité avant le lancement et a consciemment pris ce risque. Le problème de la CSAM générée par IA est l'un des plus aigus de l'industrie technologique.

Aux États-Unis, la loi fédérale PROTECT criminalise la création et la distribution d'images virtuelles d'abus sexuel d'enfants — même si elles dépeignent des personnages fictifs. Lorsque le contenu est créé en mettant en scène des images de mineurs réels, les conséquences juridiques sont exponentiellement plus graves. La préoccupation particulière est soulevée par le fait que les victimes découvrent souvent l'existence de tel contenu seulement des mois plus tard — les algorithmes de distribution fonctionnent de manière autonome.

Les demandeurs recherchent le statut d'action en justice collective, ce qui permettrait à d'autres victimes de se joindre à l'action dans tout le pays. xAI n'a pas encore fait de déclaration publique — l'entreprise interagit traditionnellement avec la presse très rarement. Grok est intégré dans la plateforme X (anciennement Twitter) et est disponible en tant qu'application autonome.

Après plusieurs vagues de critiques, la fonctionnalité du « mode épicé » a été ajustée et restreinte — cependant, selon l'action, les mesures prises se sont avérées insuffisantes. L'action contre xAI s'inscrit dans une tendance juridique plus large : les victimes de génération d'IA se tournent de plus en plus vers les tribunaux. Auparavant, des cas similaires concernaient des plateformes sociales qui n'avaient pas pris de mesures opportunes contre le contenu deepfake.

Désormais, la responsabilité est recherchée directement auprès des développeurs de modèles génératifs. L'issue de cette affaire pourrait établir un précédent important et déterminer la gravité des conséquences juridiques pour les entreprises qui ignorent les questions de sécurité lors du lancement de puissants systèmes d'IA générative.