Apple amenazó con retirar Grok de la App Store tras las quejas por deepfakes con desnudos

En enero, Apple estuvo cerca de plantear un ultimátum a xAI: o Grok dejaba de permitir deepfakes sexualizados, o la app salía de la App Store. Entonces la compañía apenas comentó el asunto en público, pero la correspondencia con senadores estadounidenses muestra ahora que entre bastidores se llegó a una amenaza directa de retirada. Para el mercado de la IA es una señal importante: los problemas de seguridad de los modelos ya no dañan solo la reputación, sino también la distribución.

Según la carta de Apple del 30 de enero de 2026 a los senadores Ron Wyden, Ben Ray Luján y Ed Markey, la compañía contactó con los equipos de X y Grok tras las quejas de usuarios y las publicaciones de prensa. Apple concluyó que ambas apps infringen las normas de la App Store, que prohíben el contenido ofensivo, impactante y abiertamente sexualizado, así como el material que pueda humillar o dañar a personas concretas. Después, Apple exigió a los desarrolladores un plan para reforzar la moderación y empezó a comprobar si xAI había cambiado lo suficiente el comportamiento del servicio.

Lo peor para xAI llegó después: su primer intento de corregir el problema no convenció a Apple. La actualización de Grok se envió a una nueva revisión, pero la compañía consideró insuficientes los cambios. La carta dice de forma explícita que la solicitud fue rechazada y que se advirtió al desarrollador de que hacían falta más cambios, o la app podría ser eliminada de la tienda. Solo la siguiente versión, que Apple describió como sustancialmente mejorada, fue aprobada. Esto significa que la historia no se quedó en la presión política de los senadores: dentro de App Store Review se activó de verdad el mecanismo estándar para forzar correcciones.

La ola del escándalo surgió en las primeras semanas de enero de 2026. Usuarios de X utilizaron de forma masiva las herramientas de Grok para crear imágenes sexualizadas de mujeres reales sin su consentimiento, y en algunos casos había menores. Esas imágenes se difundieron rápidamente en la propia X. El 9 de enero, tres senadores exigieron a Apple y Google que retiraran X y Grok de sus tiendas hasta que se corrigieran las infracciones. Señalaron por separado que lo ocurrido contradice las normas de ambas plataformas y socava su afirmación de que la moderación centralizada de las tiendas hace más seguro el ecosistema móvil.

Como respuesta, X y xAI empezaron a introducir restricciones. En la propia X, la generación de imágenes se recortó primero para los usuarios normales y quedó sobre todo para los suscriptores de Premium; después se anunció el bloqueo de solicitudes para editar fotos de personas reales con ropa reveladora y geobloqueos donde ese contenido es ilegal. Pero las quejas no terminaron ahí. Las pruebas de periodistas mostraron que parte de las restricciones se podía eludir con otras formulaciones, y algunas funciones seguían operativas en la versión independiente de Grok y en la web. Es decir, Apple presionó a xAI no por un fallo aislado, sino por un problema sistémico que un parche rápido no logró cerrar.

La historia también resulta incómoda para Apple. Durante años, la compañía ha defendido el modelo cerrado de la App Store con el argumento de que su revisión y control hacen el iPhone más seguro que instalar apps fuera de la tienda. Por eso el caso de Grok se convirtió para Apple en una prueba de coherencia: si las normas prohíben ese contenido, deben aplicarse también a los productos de IA más visibles, y no solo a los desarrolladores pequeños.

Para xAI la conclusión es aún más dura. El riesgo de un servicio de IA se mide ahora no solo en demandas, multas o críticas de los reguladores, sino también en la amenaza de perder el canal de instalación en millones de dispositivos. El caso de Grok muestra que, para las apps generativas, la moderación pasa de función secundaria a condición de supervivencia en el mercado masivo.