Wired→ original

Demanda en Arizona contra AI ModelForge por avatares pornográficos creados a partir de fotos de mujeres reales

Tres mujeres de Arizona presentaron una demanda contra los creadores de AI ModelForge. Según las demandantes, los hombres tomaban fotos de redes sociales…

Procesado por IA desde Wired; editado por Hamidun News
Demanda en Arizona contra AI ModelForge por avatares pornográficos creados a partir de fotos de mujeres reales
Fuente: Wired. Collage: Hamidun News.
◐ Escuchar artículo

Tres mujeres en Arizona presentaron una demanda contra un grupo de hombres que, según los demandantes, estaban convirtiendo fotos de redes sociales en avatares pornográficos de IA y vendiendo no solo el resultado sino también instrucciones para producirlo. La historia es importante no por la escala de las cuentas, sino porque las víctimas, como se alega en la demanda, no eran celebridades sino usuarias ordinarias con perfiles públicos.

Cómo funcionaba el esquema

Una de las demandantes, a la que se refiere como MG en los documentos judiciales, contó cómo mantenía una cuenta normal de Instagram donde publicaba historias, fotos con amigos y momentos cotidianos. En el verano, le enviaron un enlace a vídeos de una mujer que se le parecía mucho: el mismo rostro, cuerpo similar, tatuajes en los mismos lugares. Según ella, se veía lo suficientemente convincente como para que extraños confundieran esas imágenes con reales.

Según la demanda, tres hombres de Phoenix, junto con otros participantes no identificados, buscaban fotos de mujeres jóvenes en internet y luego las usaban para crear modelos de IA ficticios. Tal contenido, alegan los demandantes, se publicaba en Instagram y TikTok y también se monetizaba en Fanvue. En paralelo, se vendía una suscripción por $24,95 al mes a través de la plataforma Whop que ofrecía cursos explicando a otros usuarios cómo construir cuentas similares.

La demanda describe un proceso casi de cadena de montaje:

  • buscar mujeres con cuentas de redes sociales relativamente pequeñas
  • recopilar fotos y cargarlas en CreatorCore para entrenar el modelo
  • usar una aplicación separada para "desvestir" imágenes y generar contenido explícito
  • publicar vídeos y fotos de IA en redes sociales para alcance
  • vender instrucciones y plantillas a nuevos participantes a través de una comunidad de pago
"Era repugnante en todos los niveles," así describió una de las

demandantes lo que vio.

Por qué esta demanda se destaca

Este caso difiere de muchas historias sobre porno deepfake en que implica no solo publicar imágenes sin consentimiento, sino también vender instrucciones listas. El abogado de las demandantes afirma que aparentemente se enseñaba a los suscriptores cómo seleccionar mujeres que no podrían defenderse rápidamente y dónde obtener sus fotos. La demanda menciona específicamente que se daba preferencia a cuentas con públicos menores a 50 mil seguidores para reducir el riesgo de acciones legales.

Según los datos presentados en la demanda, el contenido creado en torno a este esquema obtuvo millones de visualizaciones y en un mes generó más de $50 mil en ingresos. El documento también afirma que en 2025, CreatorCore tenía más de 8 mil suscriptores que generaron más de 500 mil imágenes y vídeos. Incluso si algunas de estas cifras aún deben verificarse en tribunal, muestran que no se trata de una historia marginal sino de una economía plena en torno a influenciadores de IA.

Un detalle aparte es el supuesto rebranding del proyecto. En el momento de la publicación, Linktree AI ModelForge dirigía a la comunidad de Telegram TaviraLabs con una audiencia de más de 18 mil personas, que se llamaba a sí misma la comunidad más grande para entrenar modelos de influenciadores de IA. Para tales esquemas, esto es típico: cambiar el nombre, la plataforma y el empaque permite mover rápidamente la audiencia de la atención negativa sin romper el embudo de ventas ni abandonar el modelo de negocio antiguo. Esto complica adicionalmente la búsqueda de conexiones entre cuentas nuevas y antiguas, tanto para víctimas como para plataformas.

Dónde falla la protección

Formalmente, las víctimas ya tienen herramientas legales, pero en la práctica funcionan lentamente. La Ley Federal Take It Down fue firmada en mayo de 2025, pero solo entra en vigor en mayo de 2026. Debe hacer ilegal publicar contenido de IA sexualizado sin consentimiento y obligar a las plataformas a eliminar tal material dentro de 48 horas después de una queja. A nivel estatal, prohibiciones similares ya han sido adoptadas, incluyendo Arizona, pero los propios políticos locales reconocen que estas medidas más frecuentemente reaccionan al daño después del hecho que lo previenen.

El problema también está en la moderación de plataformas. Según las demandantes, muchas imágenes continuaban permaneciendo en Instagram porque formalmente no se ajustaban a las reglas de suplantación: no son copias exactas de sus fotos sino nuevos fotogramas de IA con el mismo rostro y detalles reconocibles. TikTok, según se reporta, eliminó algunas cuentas después de que periodistas se comunicaran, e Instagram envió perfiles relacionados para revisión. Pero la brecha misma entre "no es su foto" y "obviamente hecha de ella" sigue siendo una enorme zona gris.

Qué significa esto

La historia de Arizona muestra que el mercado de influenciadores de IA hace mucho que dejó de limitarse a modelos virtuales inofensivos. Si las acusaciones se confirman, será un ejemplo de cómo las herramientas generativas, comunidades de pago y moderación débil se combinan en un esquema escalable de explotación de la apariencia de alguien sin consentimiento — y cuán vulnerable puede ser casi cualquier persona con un perfil público en redes sociales. Para plataformas y legisladores, esto es una señal de que la lógica antigua de quejas y eliminación manual ya no funciona.

ZK
Hamidun News
Noticias de AI sin ruido. Selección editorial diaria de más de 400 fuentes. Producto de Zhemal Khamidun, Head of AI en Alpina Digital.

¿Quieres dejar de leer sobre IA y empezar a usarla?

AI News es un feed curado de noticias de IA. Hamidun Academy te enseña a usar la IA en tu trabajo.

¿Qué te parece?
Cargando comentarios…