Apple a menacé de retirer Grok de l'App Store après des plaintes sur des deepfakes de déshabillage

En janvier, Apple a failli poser un ultimatum à xAI : soit Grok cesse de laisser passer des deepfakes sexualisés, soit l'application sort de l'App Store. À l'époque, la firme avait très peu commenté l'affaire en public, mais sa correspondance avec des sénateurs américains montre aujourd'hui qu'en coulisses, on en est venu à une menace directe de retrait. Pour le marché de l'IA, c'est un signal important : les problèmes de sécurité des modèles ne nuisent plus seulement à la réputation, mais aussi à la distribution.

Selon la lettre d'Apple du 30 janvier 2026 adressée aux sénateurs Ron Wyden, Ben Ray Luján et Ed Markey, l'entreprise a contacté les équipes de X et de Grok après des plaintes d'utilisateurs et des articles de presse. Apple a conclu que les deux applications enfreignent les règles de l'App Store, qui interdisent les contenus offensants, choquants et ouvertement sexualisés, ainsi que les contenus pouvant humilier ou nuire à des personnes précises. Elle a ensuite exigé des développeurs un plan de renforcement de la modération et s'est mise à vérifier si xAI avait suffisamment modifié le comportement du service.

La suite est le plus désagréable pour xAI : sa première tentative de correction n'a pas satisfait Apple. La mise à jour de Grok a été soumise à une nouvelle validation, mais la firme a jugé les changements insuffisants. La lettre indique explicitement que la demande a été rejetée et que le développeur a été prévenu : des corrections supplémentaires étaient nécessaires, faute de quoi l'application pouvait être retirée de la boutique. Seule la version suivante, qu'Apple décrit comme nettement améliorée, a été approuvée. Cela signifie que l'affaire ne s'est pas limitée à la pression politique des sénateurs : au sein de l'App Store Review, le mécanisme standard pour contraindre aux corrections a bel et bien été enclenché.

La vague du scandale est montée dans les premières semaines de janvier 2026. Des utilisateurs de X ont massivement employé les outils de Grok pour créer des images sexualisées de femmes réelles sans leur consentement, et dans certains cas, des mineurs étaient concernés. Ces images se sont ensuite vite diffusées sur X même. Le 9 janvier, trois sénateurs ont demandé à Apple et à Google de retirer X et Grok de leurs boutiques d'applications jusqu'à la correction des infractions. Ils ont souligné que ces faits contredisent les règles des deux plateformes et sapent leur affirmation selon laquelle la modération centralisée des boutiques rend l'écosystème mobile plus sûr.

En réponse, X et xAI ont commencé à introduire des restrictions. Sur X, la génération d'images a d'abord été réduite pour les utilisateurs ordinaires et réservée en grande partie aux abonnés Premium ; puis l'entreprise a annoncé le blocage des demandes de retouche de photos de personnes réelles en tenue dénudée et des géoblocages là où ce contenu est illégal. Mais les reproches ne se sont pas arrêtés là.

Des tests de journalistes ont montré qu'une partie des restrictions pouvait être contournée en reformulant les requêtes, et certaines fonctions continuaient de marcher dans la version autonome de Grok et sur le site. Autrement dit, Apple a fait pression sur xAI non pour une défaillance isolée, mais pour un problème systémique qu'un correctif rapide n'a pas permis de résoudre.

L'affaire est aussi gênante pour Apple. Depuis des années, la firme défend le modèle fermé de l'App Store en affirmant que sa validation et son contrôle rendent l'iPhone plus sûr que l'installation d'applications hors de la boutique. C'est pourquoi le cas Grok est devenu pour Apple un test de cohérence : si les règles interdisent ce contenu, elles doivent s'appliquer aussi aux produits d'IA les plus en vue, et pas seulement aux petits développeurs.

Pour xAI, la leçon est encore plus rude. Le risque pour un service d'IA se mesure désormais non seulement en procès, en amendes ou en critiques des régulateurs, mais aussi dans la menace de perdre un canal d'installation sur des millions d'appareils. L'affaire Grok montre que, pour les applications génératives, la modération passe du statut de fonction secondaire à celui de condition de survie sur le marché grand public.