Plainte contre xAI : Grok aurait transformé de vraies photos d’enfants en contenu sexuel

La société xAI d'Elon Musk se trouve au cœur d'un contentieux qui pourrait faire jurisprudence pour toute l'industrie de l'IA générative. Trois mineurs, dont les identités ne sont pas divulguées, ont déposé une action civile devant un tribunal fédéral, alléguant que l'outil IA Grok a été utilisé pour créer des images sexualisées à partir de leurs véritables photographies d'enfance.

L'essence des accusations est la suivante : des acteurs malveillants téléchargeaient des photographies de mineurs sur Grok et recevaient en résultat ce qu'on appelle un deepfake CSAM—du matériel d'abus sexuel d'enfants synthétisé à l'aide de l'intelligence artificielle.

Selon les allégations des demandeurs, Grok ne disposait pas de mécanismes de protection suffisants pour prévenir un tel usage abusif. La fonctionnalité qui permettait la génération de variantes d'images « dénudées » fonctionnait sans vérification fiable de l'âge des personnes représentées et sans filtrage de contenu adéquat à l'entrée.

Les demandeurs cherchent à certifier l'affaire en tant qu'action de groupe au nom de tous les mineurs dont les véritables photographies ont été transformées de manière similaire à l'aide de Grok. Le nombre exact de victimes n'a pas encore été déterminé, mais les avocats estiment qu'il y a considérablement plus de trois cas.

La plainte affirme que xAI était consciente des risques potentiels d'abus de la technologie, mais n'a pas pris de mesures de protection proportionnées.

L'affaire soulève une question juridique aiguë concernant la responsabilité des développeurs d'IA pour la manière dont leurs produits sont utilisés par des tiers. Traditionnellement, les entreprises technologiques américaines ont bénéficié de la protection de l'article 230 de la Loi sur la décence dans les communications, qui limite la responsabilité des plateformes pour le contenu généré par les utilisateurs. Cependant, les systèmes d'IA qui génèrent activement un nouveau contenu au lieu de simplement l'héberger pourraient relever d'une catégorie juridique fondamentalement différente. C'est précisément cette distinction que le tribunal devra établir.

L'affaire xAI n'est pas le premier signal de la vulnérabilité des outils d'IA génératives à la création de contenu illégal. Au cours de 2023–2024, des rapports ont émergé selon lesquels divers modèles commerciaux, dans certaines conditions de prompting ou de contournement de filtres, permettaient la génération de CSAM. Certains développeurs ont réagi en renforçant le filtrage ; d'autres ont mis à jour les politiques d'utilisation. Néanmoins, des procès d'une telle ampleur dirigés directement contre un développeur d'IA n'ont pratiquement pas eu lieu jusqu'à présent.

La position de xAI n'a pas été officiellement énoncée au moment de la publication. Grok lui-même est positionné comme plus ouvert à la discussion de sujets controversés par rapport aux concurrents—c'est simultanément à la fois sa caractéristique distincte et une source constante de risque réputationnel pour l'entreprise.

Si le tribunal certifie l'affaire en tant qu'action de groupe, les conséquences pour l'industrie pourraient être assez substantielles. Les développeurs d'IA générative devront sérieusement reconsidérer l'architecture des systèmes de sécurité et les mécanismes de vérification de contenu. Les régulateurs aux États-Unis, dans l'UE et dans d'autres juridictions obtiendront un autre argument de poids en faveur du renforcement des exigences pour les systèmes d'IA en matière de protection des mineurs.

Cette action en justice marque une transition dans la discussion de l'industrie sur la responsabilité de l'IA du plan théorique à celui de la poursuite légale réelle—et l'industrie devra réagir.