Apple Amenazó con Eliminar Grok de la App Store Tras Denuncias por Deepfakes Desnudos

Apple amenazó con eliminar Grok de la App Store tras quejas sobre deepfakes desnudos

Apple en enero casi emite un ultimátum a xAI: o Grok deja de permitir deepfakes sexualizados, o la aplicación se elimina de la App Store. La empresa apenas comentó públicamente la situación en ese momento, pero ahora la correspondencia con senadores estadounidenses revela que entre bastidores, las cosas escalaron a una amenaza directa de eliminación. Para el mercado de IA, esta es una señal importante: los problemas de seguridad del modelo ahora afectan no solo la reputación, sino también la distribución.

Según la carta de Apple de 30 de enero de 2026 a los senadores Ron Wyden, Ben Ray Luján y Ed Markey, la empresa contactó a los equipos de X y Grok tras quejas de usuarios y cobertura de prensa. Apple llegó a la conclusión de que ambas aplicaciones violaban las reglas de la App Store que prohíben contenido ofensivo, impactante y explícitamente sexualizado, así como materiales que puedan denigrar o dañar a individuos específicos. Después de esto, Apple exigió a los desarrolladores un plan para fortalecer la moderación y comenzó a verificar si xAI había cambiado suficientemente el comportamiento del servicio.

Entonces lo peor para xAI se hizo evidente: el primer intento de solucionar la situación no satisfizo a Apple. La actualización de Grok fue enviada para revisión nuevamente, pero la empresa consideró que los cambios eran insuficientes. La carta explícitamente declara que el envío fue rechazado y el desarrollador fue advertido: se necesitan cambios adicionales, o la aplicación podría eliminarse de la tienda. Solo la siguiente versión, que Apple describió como sustancialmente mejorada, recibió aprobación.

Esto significa que la historia no terminó con presión política de los senadores — el equipo de Revisión de la App Store realmente activó el mecanismo de cumplimiento estándar para compeler correcciones. El escándalo en sí estalló en las primeras semanas de enero de 2026. Los usuarios de X en masa estaban usando las herramientas de Grok para crear imágenes sexualizadas de mujeres reales sin su consentimiento, y en algunos casos menores estaban involucrados. Tales imágenes luego se difundieron rápidamente a través del propio X.

El 9 de enero, tres senadores exigieron que Apple y Google eliminaran X y Grok de las tiendas de aplicaciones hasta que se eliminaran las violaciones. Específicamente señalaron que lo que estaba sucediendo contradecía las reglas de ambas plataformas y socavaba sus afirmaciones de que la moderación centralizada de la tienda de aplicaciones hace que el ecosistema móvil sea más seguro.

En respuesta, X y xAI comenzaron a implementar restricciones. En el propio X, la generación de imágenes fue primero limitada para usuarios regulares y reservada principalmente para suscriptores Premium, y luego la empresa anunció un bloqueo en solicitudes para editar fotos de personas reales con ropa explícita y geobloqueo en regiones donde tal contenido es ilegal. Pero las quejas no terminaron ahí.

Las verificaciones de periodistas mostraron que algunas restricciones podían ser eludidas con nuevas formulaciones de solicitudes, y ciertas características continuaban funcionando en la versión independiente de Grok y en el sitio web. En otras palabras, Apple estaba presionando a xAI no por un único problema, sino por un problema sistémico que no podía ser solucionado con un parche rápido.

Para Apple, esta historia también es incómoda. La empresa ha defendido durante años su modelo cerrado de App Store con la tesis de que su revisión y control hacen que el iPhone sea más seguro comparado con instalar aplicaciones fuera de la tienda. Esta es precisamente la razón por la cual el caso Grok se convirtió en una prueba de consistencia para Apple: si las reglas prohíben tal contenido, deben aplicarse a los productos de IA más destacados, no solo a pequeños desarrolladores.

Para xAI, la conclusión es aún más severa. El riesgo para un servicio de IA ahora se mide no solo por demandas, multas o crítica regulatoria, sino por la amenaza de perder el canal de instalación en millones de dispositivos. La historia de Grok muestra que para aplicaciones generativas, la moderación se está convirtiendo de una función secundaria en una condición para la supervivencia en el mercado masivo.