Apple y Google siguen alojando apps nudify pese a sus propias normas

Apple y Google siguen alojando en sus tiendas móviles apps que permiten crear imágenes sexualizadas de personas sin su consentimiento. Es un problema especialmente delicado para la App Store y Google Play, porque ambas compañías ya tienen normas que prohíben formalmente ese contenido.

Qué encontraron los investigadores

La nueva ola de críticas parte de un informe del Tech Transparency Project. Según sus datos, en los ecosistemas de Apple y Google siguen disponibles las llamadas apps nudify: servicios que, mediante IA generativa, convierten fotos normales de personas en imágenes sexualizadas, sin obtener el consentimiento de la persona afectada.

La contradicción central es que no se trata de una zona gris sin reglas. Tanto Apple como Google restringen públicamente las apps con contenido de explotación sexual, dañino o engañoso. Si estas herramientas realmente siguen apareciendo en los resultados y se pueden descargar, hay una brecha entre la política declarada de las plataformas y su funcionamiento real. Para empresas que presentan sus tiendas como un entorno seguro, esto golpea tanto la confianza de los usuarios como la reputación del propio sistema de revisión.

Por qué es peligroso

Estas apps reducen la barrera de entrada a la violencia digital a unos pocos toques en la pantalla. Antes, falsificar una imagen exigía conocimientos de edición y tiempo. Ahora basta con subir una foto de una red social o de una app de mensajería, elegir un estilo y obtener el resultado en minutos. Para la víctima no es una "broma" ni un formato de entretenimiento discutible, sino una violación de sus límites personales y del control sobre su propia imagen.

Las consecuencias de estas herramientas son muy reales:

• acoso y humillación en chats, colegios y equipos de trabajo
• chantaje y presión en las relaciones personales
• daño reputacional difícil de reparar con rapidez
• mayor desconfianza hacia la foto como prueba de la realidad
• carga adicional para la moderación de las plataformas y las denuncias de las víctimas

El alcance de la difusión también es un problema. Cuando estos productos superan la revisión de las grandes tiendas de apps, ganan no solo audiencia, sino apariencia de legalidad. Para parte de los usuarios, la mera presencia en la App Store o en Google Play parece señal de que el servicio "cumple las reglas", aunque sus usos sean claramente tóxicos.

Por qué fallaron las normas

Según lo que describe el informe, la cuestión ya no es la falta de normas, sino su cumplimiento. La moderación de las tiendas de apps se basa tradicionalmente en la descripción del producto, las palabras clave, las capturas de pantalla, las denuncias de usuarios y las revisiones posteriores de las actualizaciones. Los desarrolladores de servicios dudosos saben jugar con este sistema: suavizan las formulaciones, camuflan los usos reales como "entretenimiento" o "efectos de fotos" y hacen visibles las funciones más arriesgadas solo tras la instalación.

Hay además un problema más sistémico. Las herramientas generativas cambian más rápido que las normas y los procesos de revisión manual. Las plataformas deben evaluar no solo la tecnología, sino también el daño probable de su uso. En el caso de las apps nudify, ese daño es bastante evidente: el escenario de uso se construye desde el principio en torno a crear una imagen sexualizada de una persona sin su consentimiento. Por eso las preguntas a Apple y Google no se referirán solo a la política sobre el papel, sino también a la rapidez con que retiran estos productos una vez detectados.

Qué significa

El caso de las apps nudify muestra que el principal riesgo de la IA generativa hoy suele estar no en el laboratorio, sino en la fase de distribución. Si Apple y Google quieren que se tomen en serio sus normas, tendrán que definir con más precisión los escenarios prohibidos, responder más rápido a las denuncias y revisar con más rigor las apps que monetizan la sexualización no consentida de personas.