Apple a Menacé de Supprimer Grok de l'App Store Suite à des Plaintes Concernant des Deepfakes Nus

Apple a menacé de retirer Grok de l'App Store suite à des plaintes concernant les deepfakes nus

Apple en janvier a presque adressé un ultimatum à xAI : soit Grok cesse de permettre les deepfakes sexualisés, soit l'application est retirée de l'App Store. L'entreprise avait à peine commenté publiquement la situation à l'époque, mais maintenant la correspondance avec des sénateurs américains révèle que dans les coulisses, les choses ont escaladé vers une menace directe de suppression. Pour le marché de l'IA, c'est un signal important : les problèmes de sécurité des modèles affectent maintenant non seulement la réputation, mais aussi la distribution.

Selon la lettre d'Apple du 30 janvier 2026 adressée aux sénateurs Ron Wyden, Ben Ray Luján et Ed Markey, l'entreprise a contacté les équipes de X et Grok suite à des plaintes d'utilisateurs et à une couverture médiatique. Apple a conclu que les deux applications violaient les règles de l'App Store qui interdisent le contenu offensant, choquant et explicitement sexualisé, ainsi que les matériaux pouvant dénigrer ou nuire à des individus spécifiques. Après cela, Apple a exigé des développeurs un plan pour renforcer la modération et a commencé à vérifier si xAI avait suffisamment changé le comportement du service.

Alors le pire pour xAI s'est manifesté : la première tentative de résoudre la situation n'a pas satisfait Apple. La mise à jour de Grok a été renvoyée pour un nouvel examen, mais l'entreprise a estimé que les changements n'étaient pas suffisants. La lettre énonce explicitement que la demande a été rejetée et le développeur a été averti : des corrections supplémentaires sont nécessaires, sinon l'application pourrait être retirée du magasin. Seule la version suivante, que Apple a décrite comme considérablement améliorée, a reçu l'approbation.

Cela signifie que l'histoire ne s'est pas arrêtée à la pression politique des sénateurs — l'équipe d'examen de l'App Store a réellement activé le mécanisme d'application standard pour forcer les corrections. Le scandale lui-même a éclaté au cours des premières semaines de janvier 2026. Les utilisateurs de X en masse utilisaient les outils de Grok pour créer des images sexualisées de femmes réelles sans leur consentement, et dans certains cas, des mineurs étaient impliqués. Ces images se sont ensuite rapidement propagées sur X lui-même.

Le 9 janvier, trois sénateurs ont demandé à Apple et Google de retirer X et Grok des app stores jusqu'à l'élimination des violations. Ils ont spécifiquement noté que ce qui se passait contredisait les règles des deux plateformes et minait leurs affirmations selon lesquelles la modération centralisée de l'app store rend l'écosystème mobile plus sûr.

En réponse, X et xAI ont commencé à mettre en œuvre des restrictions. Sur X lui-même, la génération d'images a d'abord été limitée pour les utilisateurs réguliers et réservée principalement aux abonnés Premium, puis l'entreprise a annoncé un blocage des demandes de modification de photos de personnes réelles en tenue explicite et un géoblocage dans les régions où ce contenu est illégal. Mais les plaintes ne se sont pas arrêtées là.

Les vérifications par les journalistes ont montré que certaines restrictions pouvaient être contournées par de nouvelles formulations de demandes, et certaines fonctionnalités continuaient de fonctionner dans la version autonome de Grok et sur le site web. En d'autres termes, Apple exerçait une pression sur xAI non pas en raison d'une seule anomalie, mais en raison d'un problème systémique qui ne pouvait pas être résolu par un correctif rapide.

Pour Apple, cette histoire est également gênante. L'entreprise a défendu pendant des années son modèle fermé de l'App Store avec la thèse que son examen et son contrôle rendent l'iPhone plus sûr par rapport à l'installation d'applications en dehors du magasin. C'est précisément pour cette raison que l'affaire Grok est devenue un test de cohérence pour Apple : si les règles interdisent tel contenu, elles doivent être appliquées aux produits d'IA les plus importants, et pas seulement aux petits développeurs.

Pour xAI, la conclusion est encore plus grave. Le risque pour un service d'IA est maintenant mesuré non seulement par les poursuites judiciaires, les amendes ou les critiques des régulateurs, mais aussi par la menace de perdre le canal d'installation sur des millions d'appareils. L'histoire de Grok montre que pour les applications génératives, la modération devient une condition de survie sur le marché de masse, plutôt qu'une fonction secondaire.