Grok et deepfakes: le régulateur britannique cherche les limites pour Elon Musk

Elon Musk a toujours adoré jouer avec le feu, mais cette fois les flammes pourraient être trop chaudes même pour lui. Son ambitieux projet Grok, positionné dès le départ comme anti-establishment et l'IA la plus honnête du monde, a heurté la dure réalité de la législation britannique. Le Bureau du Commissaire à l'information du Royaume-Uni a officiellement ouvert une enquête contre les entreprises X et xAI.

Le déclencheur a été les rapports selon lesquels le réseau de neurones Grok permet aux utilisateurs de générer des deepfakes sexuels de personnes réelles sans leur connaissance ou consentement. Ce n'est pas seulement un échec éthique, c'est une violation potentielle des lois britanniques sur la protection des données, qui en Europe et en Grande-Bretagne sont traditionnellement considérées comme parmi les plus strictes du monde.

Lorsque Musk a lancé Grok, il a misé sur l'absence de filtres stricts qui, selon lui, rendent les concurrents comme ChatGPT ou Gemini trop ennuyeux et politiquement corrects. Mais la liberté d'expression dans l'interprétation de Musk s'est rapidement transformée en un outil pour créer du contenu pornographique mettant en vedette des célébrités et des utilisateurs ordinaires. Le régulateur ICO pose maintenant des questions très inconfortables sur la question de savoir si des mesures de protection ont été intégrées à l'architecture de Grok lors de la phase de conception.

Dans le monde de la conformité adulte, on appelle cela la sécurité par conception, et il semble qu'à xAI ils ont préféré oublier ce terme au profit du succès rapide et de l'attraction du public sur la plateforme X.

Le problème pour Musk est que l'ICO n'est pas seulement un groupe d'activistes mécontents. C'est un organe ayant le véritable pouvoir d'imposer des amendes jusqu'à quatre pour cent du chiffre d'affaires mondial d'une entreprise. Étant donné que X traverse déjà des périodes difficiles en termes de revenus publicitaires, de telles sanctions pourraient être un coup douloureux. De plus, le régulateur examine comment xAI a légalement utilisé les données des utilisateurs des médias sociaux pour former son modèle. Précédemment, Musk avait déjà fait des concessions en Irlande, suspendant temporairement l'utilisation des données européennes, mais l'enquête britannique creuse plus profondément, touchant l'essence même du produit et sa sécurité pour la société.

La situation avec Grok met en lumière un conflit de longue date entre la Silicon Valley et les régulateurs européens. Tandis que les géants de la technologie tentent de se déplacer aussi rapidement que possible et de casser les anciennes règles, les responsables à Londres et Bruxelles tentent de mettre l'IA sous le joug de la responsabilité. Musk prétend que son IA cherche la vérité, mais les régulateurs font remarquer à juste titre que la génération de faux contenu intime n'a rien à voir avec la recherche de la vérité.

Cette enquête établira un précédent important pour toute l'industrie : les développeurs continueront-ils à se cacher derrière des clauses de non-responsabilité des utilisateurs, ou devront-ils dépenser des millions de dollars pour créer des filtres éthiques impénétrables?

Fait intéressant, ce scandale se déroule dans le contexte des tentatives de Musk de transformer X en une super-application pour tout. Si Grok devient un actif toxique qui n'apporte que des procès et des amendes, cela pourrait mettre en péril tout l'écosystème des entreprises de Musk. D'autres acteurs du marché, comme OpenAI et Anthropic, ont depuis longtemps embauché des armées entières de spécialistes des équipes rouges qui tentent de pirater leurs propres modèles avant le lancement. En comparaison avec la leur, l'approche de xAI ressemble à une tentative de pari, en espérant la magie de la marque personnelle du propriétaire. Mais les lois britanniques sur la protection des données ne sont pas très sensibles au charisme des milliardaires.

Le point principal : Musk peut-il prouver que son IA est sûre sans la transformer en le produit politiquement correct qu'il méprise tant ? Ou Grok deviendra-t-il la première grande victime de la réglementation européenne de l'IA ?