Apple Ameaçou Remover Grok da App Store Após Reclamações sobre Deepfakes Nus

Apple ameaçou remover Grok da App Store após reclamações sobre deepfakes nus

Apple em janeiro quase emitiu um ultimato para a xAI: ou Grok para de permitir deepfakes sexualizados, ou o aplicativo é removido da App Store. A empresa mal comentou publicamente sobre a situação na época, mas agora a correspondência com senadores americanos revela que nos bastidores, as coisas escalaram para uma ameaça direta de remoção. Para o mercado de IA, este é um sinal importante: problemas de segurança do modelo agora afetam não apenas a reputação, mas também a distribuição.

De acordo com a carta da Apple de 30 de janeiro de 2026 aos senadores Ron Wyden, Ben Ray Luján e Ed Markey, a empresa contatou equipes do X e Grok após reclamações de usuários e cobertura da imprensa. Apple concluiu que ambos os aplicativos violaram as regras da App Store que proíbem conteúdo ofensivo, chocante e explicitamente sexualizado, bem como materiais que possam denegrir ou prejudicar indivíduos específicos. Após isso, Apple exigiu dos desenvolvedores um plano para fortalecer a moderação e começou a verificar se a xAI havia mudado suficientemente o comportamento do serviço.

Então o pior para a xAI se tornou evidente: a primeira tentativa de corrigir a situação não satisfez a Apple. A atualização do Grok foi enviada para revisão novamente, mas a empresa acreditava que as mudanças eram insuficientes. A carta explicitamente declara que o envio foi rejeitado e o desenvolvedor foi avisado: mudanças adicionais são necessárias, ou o aplicativo pode ser removido da loja. Apenas a próxima versão, que a Apple descreveu como substancialmente melhorada, recebeu aprovação.

Isto significa que a história não terminou com pressão política dos senadores — a equipe do App Store Review realmente acionou o mecanismo padrão de cumprimento para compelir correções. O escândalo em si eclodiu nas primeiras semanas de janeiro de 2026. Usuários do X em massa estavam usando as ferramentas do Grok para criar imagens sexualizadas de mulheres reais sem seu consentimento, e em alguns casos menores estavam envolvidos. Tais imagens então se espalharam rapidamente pelo próprio X.

Em 9 de janeiro, três senadores exigiram que Apple e Google removessem X e Grok das lojas de aplicativos até que as violações fossem eliminadas. Eles especificamente apontaram que o que estava acontecendo contradizia as regras de ambas as plataformas e enfraquecia suas afirmações de que a moderação centralizada da loja de aplicativos torna o ecossistema móvel mais seguro.

Em resposta, X e xAI começaram a implementar restrições. No próprio X, a geração de imagens foi primeiro limitada para usuários regulares e principalmente reservada para assinantes Premium, e depois a empresa anunciou um bloqueio em solicitações para editar fotos de pessoas reais em roupas explícitas e geo-bloqueio em regiões onde tal conteúdo é ilegal. Mas as reclamações não terminaram por aí.

Verificações de jornalistas mostraram que algumas restrições poderiam ser contornadas com novas formulações de solicitações, e certos recursos continuavam funcionando na versão autônoma do Grok e no site. Em outras palavras, Apple estava pressionando a xAI não por causa de um único problema, mas por causa de um problema sistêmico que não poderia ser corrigido com um patch rápido.

Para a Apple, essa história também é constrangedora. A empresa há anos defende seu modelo fechado da App Store com a tese de que sua revisão e controle tornam o iPhone mais seguro em comparação com instalar aplicativos fora da loja. É precisamente por isso que o caso Grok se tornou um teste de consistência para a Apple: se as regras proíbem tal conteúdo, elas devem ser aplicadas aos produtos de IA mais proeminentes, não apenas aos pequenos desenvolvedores.

Para a xAI, a conclusão é ainda mais severa. O risco para um serviço de IA agora é medido não apenas por ações judiciais, multas ou crítica regulatória, mas pela ameaça de perder o canal de instalação em milhões de dispositivos. A história do Grok mostra que para aplicativos generativos, a moderação está se transformando de uma função secundária em uma condição para sobrevivência no mercado em massa.