Demandan en Arizona a los creadores de AI ModelForge por avatares porno hechos con fotos de mujeres reales

Tres mujeres han presentado en Arizona una demanda contra un grupo de hombres que, según las demandantes, convertían fotos de redes sociales en avatares porno generados con IA y vendían no solo el resultado, sino también las instrucciones para producirlo. El caso no importa por el tamaño de las cuentas, sino porque, según la demanda, las víctimas no eran celebridades, sino usuarias corrientes con perfiles públicos.

Cómo funcionaba el esquema

Una de las demandantes, identificada en los documentos judiciales como MG, contó que tenía una cuenta de Instagram normal, donde publicaba historias, fotos con amigos y momentos cotidianos. En verano le enviaron un enlace a vídeos de una mujer muy parecida a ella: la misma cara, un cuerpo similar y tatuajes en los mismos lugares. Según explicó, el resultado era lo bastante verosímil como para que otras personas pudieran tomar esas imágenes por reales.

Según la demanda, tres hombres de Phoenix, junto con otros participantes no identificados, buscaban fotos de mujeres jóvenes en internet y las usaban para crear modelos ficticias con IA. Las demandantes afirman que ese contenido se publicaba en Instagram y TikTok y se monetizaba en Fanvue. Al mismo tiempo, a través de la plataforma Whop se vendía una suscripción de $24,95 al mes a cursos que enseñaban a otros usuarios a montar cuentas similares.

La demanda describe un proceso casi industrial:

• búsqueda de mujeres con cuentas relativamente pequeñas en redes sociales
• recopilación de fotos y carga en CreatorCore para entrenar el modelo
• uso de una aplicación aparte para «desnudar» las imágenes y generar contenido explícito
• publicación de vídeos y fotos generados con IA en redes sociales para ganar alcance
• venta de instrucciones y plantillas a nuevos participantes a través de una comunidad de pago

«Fue repugnante a todos los niveles», así describió una de las

demandantes lo que vio.

Por qué destaca esta demanda

Este caso se diferencia de muchas historias de porno deepfake en que no se trata solo de publicar imágenes sin consentimiento, sino también de vender un manual listo para usar. El abogado de las demandantes sostiene que a los suscriptores supuestamente se les explicaba cómo elegir a mujeres que no pudieran defenderse con rapidez y dónde conseguir sus fotos. La demanda menciona expresamente que se daba preferencia a cuentas con menos de 50 mil seguidores para reducir el riesgo de reclamaciones legales.

Según los datos recogidos en la demanda, el contenido creado en torno a este esquema acumulaba millones de visualizaciones y en uno de los meses generó más de $50 mil en ingresos. El documento también indica que en 2025 CreatorCore contaba con más de 8 mil suscriptores, que generaron más de 500 mil imágenes y vídeos. Aunque parte de estas cifras aún debe verificarse en los tribunales, muestran que no se trata de un caso marginal, sino de toda una economía en torno a los influencers de IA.

Otro detalle es el supuesto cambio de marca del proyecto. En el momento de la publicación, el Linktree de AI ModelForge redirigía a la comunidad de Telegram TaviraLabs, con más de 18 mil miembros, que se presentaba como la mayor comunidad de formación sobre modelos de influencers de IA. Es habitual en este tipo de esquemas: cambiar de nombre, de plataforma y de envoltorio permite alejar rápidamente a la audiencia de la atención negativa sin romper el embudo de ventas ni renunciar al antiguo modelo de negocio. Además, esto dificulta tanto a las víctimas como a las plataformas rastrear la conexión entre las cuentas nuevas y las antiguas.

Dónde falla la protección

Sobre el papel, las víctimas ya cuentan con herramientas legales, pero en la práctica funcionan con lentitud. La ley federal Take It Down Act se firmó en mayo de 2025, pero no entra en vigor hasta mayo de 2026. Su objetivo es ilegalizar la publicación de contenido sexualizado generado con IA sin consentimiento y obligar a las plataformas a retirar ese material en un plazo de 48 horas tras recibir una denuncia. A nivel estatal ya se han aprobado prohibiciones similares, también en Arizona, pero los propios políticos locales reconocen que estas medidas suelen reaccionar al daño a posteriori más que prevenirlo.

El problema también está en la moderación de las plataformas. Según las demandantes, muchas imágenes seguían en Instagram porque formalmente no encajaban en las normas sobre suplantación de identidad (impersonation): no eran copias exactas de sus fotos, sino imágenes nuevas generadas con IA con la misma cara y rasgos físicos reconocibles. Según se informa, TikTok eliminó algunas cuentas después de que los periodistas se pusieran en contacto, e Instagram envió los perfiles vinculados a revisión. Pero la brecha entre «no es su foto» y «está claramente hecha a partir de ella» sigue siendo una enorme zona gris.

Qué significa

El caso de Arizona muestra que el mercado de influencers de IA hace tiempo que no se limita a inofensivas modelos virtuales. Si las acusaciones se confirman, será un ejemplo de cómo las herramientas generativas, las comunidades de pago y una moderación débil se combinan en un esquema escalable para explotar la imagen ajena sin consentimiento, y de lo vulnerable que puede ser casi cualquier persona con un perfil público en redes sociales. Para las plataformas y los legisladores es una señal de que la vieja lógica de denuncias y retirada manual ya no da abasto.

*Meta ha sido declarada organización extremista y está prohibida en Rusia.