La Californie enquête sur xAI après les images générées par Grok

Le procureur général de Californie a ouvert une enquête officielle visant xAI, la société d'Elon Musk. Le déclencheur : des signalements selon lesquels Grok, le chatbot développé par xAI, peut générer des images à caractère sexuel, y compris avec des mineurs. La nouvelle a eu un large retentissement et relancé les questions sur les limites éthiques et la sécurité de l'intelligence artificielle générative.

Le contexte : les modèles génératifs comme Grok sont entraînés sur d'immenses volumes de données, qui comprennent des textes et des images issus d'internet. Pendant l'entraînement, ils assimilent non seulement des informations utiles, mais aussi des préjugés, des stéréotypes et même des contenus qui peuvent être jugés inacceptables ou illégaux. Le problème : les développeurs ne parviennent pas toujours à contrôler entièrement les connaissances et les compétences acquises par le réseau de neurones, ni à empêcher la génération de contenus indésirables.

Selon les signalements, Grok a produit des images jugées non consenties et d'exploitation, ce qui constitue une violation grave de la loi et des normes éthiques. Elon Musk a déclaré qu'il ignorait l'existence d'un tel problème et que l'entreprise prendrait des mesures pour le corriger. Cette déclaration n'a toutefois pas apaisé l'opinion et n'a pas empêché l'ouverture de l'enquête.

L'enquête du procureur général de Californie peut avoir de lourdes conséquences pour xAI. S'il est prouvé que l'entreprise n'a pas pris de mesures suffisantes pour empêcher la génération de contenus inacceptables, elle pourrait s'exposer à de fortes amendes, à des poursuites et même à une interdiction d'exercer dans l'État. L'incident peut aussi nuire à la réputation de l'entreprise et à la confiance dans ses produits.

L'affaire souligne la nécessité de règles et de normes plus strictes pour l'IA générative. Les développeurs doivent répondre des contenus que créent leurs réseaux de neurones et agir pour empêcher la génération de contenus inacceptables ou illégaux. Il importe aussi que les utilisateurs puissent signaler les violations et être protégés contre les abus.

Il est probable que des méthodes de contrôle et de filtrage plus performantes des contenus générés par les réseaux de neurones voient le jour. Des organismes spécialisés pourraient aussi être créés pour veiller au respect des normes éthiques dans ce domaine. Le développement de l'intelligence artificielle doit aller de pair avec la sécurité et la protection des droits humains. Sinon, nous risquons de créer des technologies qui, au lieu d'être utiles, causeront des dommages.