Apple ameaçou remover o Grok da App Store após reclamações sobre deepfakes com nudez

Em janeiro, a Apple chegou perto de dar um ultimato à xAI: ou o Grok deixava de permitir deepfakes sexualizados, ou o app sairia da App Store. Na época, a empresa quase não comentou o caso publicamente, mas a correspondência com senadores americanos mostra agora que, nos bastidores, a situação chegou a uma ameaça direta de remoção. Para o mercado de IA, é um sinal importante: problemas de segurança dos modelos já afetam não só a reputação, mas também a distribuição.

Segundo a carta da Apple de 30 de janeiro de 2026 aos senadores Ron Wyden, Ben Ray Luján e Ed Markey, a empresa entrou em contato com as equipes do X e do Grok após reclamações de usuários e reportagens na imprensa. A Apple concluiu que os dois apps violam as regras da App Store, que proíbem conteúdo ofensivo, chocante e abertamente sexualizado, além de material capaz de humilhar ou prejudicar pessoas específicas. Em seguida, exigiu dos desenvolvedores um plano para reforçar a moderação e passou a verificar se a xAI havia mudado o comportamento do serviço de forma suficiente.

Depois veio o pior para a xAI: a primeira tentativa de correção não satisfez a Apple. A atualização do Grok foi enviada a uma nova revisão, mas a empresa considerou as mudanças insuficientes. A carta diz de forma explícita que o envio foi rejeitado e que o desenvolvedor foi avisado: eram necessárias mais correções, ou o app poderia ser removido da loja. Só a versão seguinte, que a Apple descreveu como substancialmente melhorada, foi aprovada. Isso significa que a história não se limitou à pressão política dos senadores: dentro da App Store Review, o mecanismo padrão de imposição de correções foi de fato acionado.

A onda do escândalo começou nas primeiras semanas de janeiro de 2026. Usuários do X usaram em massa as ferramentas do Grok para criar imagens sexualizadas de mulheres reais sem consentimento, e em alguns casos havia menores. Essas imagens se espalharam rapidamente no próprio X. Em 9 de janeiro, três senadores exigiram que Apple e Google removessem X e Grok das lojas de aplicativos até que as violações fossem corrigidas. Eles destacaram que o que acontecia contrariava as regras das duas plataformas e minava a alegação de que a moderação centralizada das lojas torna o ecossistema móvel mais seguro.

Em resposta, X e xAI começaram a impor restrições. No próprio X, a geração de imagens foi primeiro reduzida para usuários comuns e mantida principalmente para assinantes do Premium; depois, anunciaram o bloqueio de pedidos para editar fotos de pessoas reais com roupas reveladoras e geobloqueios onde esse conteúdo é ilegal. Mas as reclamações não pararam. Testes de jornalistas mostraram que parte das restrições podia ser contornada com novas formulações de pedidos, e algumas funções continuavam ativas no app independente do Grok e no site. Ou seja, a Apple pressionou a xAI não por uma falha isolada, mas por um problema sistêmico que um patch rápido não resolveu.

A história também é incômoda para a Apple. Há anos a empresa defende o modelo fechado da App Store com o argumento de que sua revisão e seu controle tornam o iPhone mais seguro do que instalar apps fora da loja. Por isso, o caso do Grok virou um teste de coerência: se as regras proíbem esse conteúdo, devem valer também para os produtos de IA mais visíveis, e não só para pequenos desenvolvedores.

Para a xAI, a conclusão é ainda mais dura. O risco de um serviço de IA agora se mede não só em processos, multas ou críticas de reguladores, mas também na ameaça de perder o canal de instalação em milhões de dispositivos. O caso do Grok mostra que, para apps generativos, a moderação deixa de ser função secundária e vira condição de sobrevivência no mercado de massa.