Ação judicial na Arizona contra AI ModelForge por avatares pornográficos criados a partir de fotos de mulheres reais

Três mulheres no Arizona abriram uma ação contra um grupo de homens que, segundo os querelantes, estavam convertendo fotos de redes sociais em avatares pornô por IA e vendendo não apenas o resultado, mas também instruções para produzi-lo. A história é importante não pelo tamanho das contas, mas porque as vítimas, conforme alegado na ação, não eram celebridades, mas usuárias comuns com perfis públicos.

Como o esquema funcionava

Uma das querelantes, referida nos documentos do tribunal como MG, relatou como mantinha uma conta comum no Instagram onde postava stories, fotos com amigos e momentos do dia a dia. No verão, recebeu um link para vídeos de uma mulher que se parecia muito com ela: o mesmo rosto, corpo parecido, tatuagens nos mesmos lugares. Segundo ela, parecia plausível o suficiente para que estranhos pudessem confundir essas imagens com reais.

De acordo com a ação, três homens de Phoenix, junto com outros participantes não identificados, procuravam por fotos de mulheres jovens na internet e depois as usavam para criar modelos de IA fictícios. Tal conteúdo, alegam os querelantes, era publicado no Instagram e TikTok e também monetizado no Fanvue. Em paralelo, uma assinatura por $24,95 por mês era vendida através da plataforma Whop, oferecendo cursos que explicavam a outros usuários como construir contas similares.

A ação descreve um processo quase de linha de montagem:

• procurar por mulheres com contas de redes sociais relativamente pequenas
• coletar fotos e carregá-las no CreatorCore para treinar o modelo
• usar um aplicativo separado para "desvestir" imagens e gerar conteúdo explícito
• publicar vídeos e fotos de IA nas redes sociais para alcance
• vender instruções e modelos para novos participantes através de uma comunidade paga

"Era repugnante em todos os níveis," uma das querelantes descreveu o que viu.

Por que esta ação se destaca

Este caso difere de muitas histórias de pornô deepfake porque envolve não apenas publicar imagens sem consentimento, mas também vender instruções prontas. O advogado das querelantes alega que os assinantes aparentemente foram ensinados a selecionar mulheres que não conseguiriam se defender rapidamente e onde encontrar suas fotos. A ação menciona especificamente que havia preferência por contas com públicos menores que 50 mil seguidores para reduzir o risco de ações legais.

De acordo com os dados apresentados na ação, o conteúdo criado em torno deste esquema conquistou milhões de visualizações e em um mês gerou mais de $50 mil em receita. O documento também afirma que em 2025, o CreatorCore tinha mais de 8 mil assinantes que geraram mais de 500 mil imagens e vídeos. Mesmo que alguns desses números precisem ser verificados em tribunal, eles mostram que não se trata de uma história marginal, mas de uma economia consolidada em torno de influenciadores de IA.

Um detalhe separado é o suposto rebranding do projeto. No momento da publicação, o Linktree AI ModelForge direcionava para a comunidade Telegram TaviraLabs com público de mais de 18 mil pessoas, que se chamava de maior comunidade para treinamento de modelos de influenciadores de IA. Para tais esquemas, isso é típico: mudar o nome, a plataforma e a embalagem permite mover rápido o público de atenção negativa sem quebrar o funil de vendas ou abandonar o modelo de negócio antigo. Isso complica adicionalmente a busca por conexões entre contas novas e antigas, tanto para vítimas quanto para plataformas.

Onde a proteção falha

Formalmente, as vítimas já têm ferramentas legais, mas na prática funcionam lentamente. A Lei Federal Take It Down foi assinada em maio de 2025, mas entra em vigor apenas em maio de 2026. Deve tornar ilegal publicar conteúdo de IA sexualizado sem consentimento e exigir que plataformas removam tal material em 48 horas após reclamação. A nível estadual, proibições similares já foram adotadas, incluindo no Arizona, mas os próprios políticos locais reconhecem que essas medidas frequentemente reagem ao dano após o fato e não o previnem.

O problema também está na moderação das plataformas. Segundo as querelantes, muitas imagens continuaram no Instagram porque formalmente não caíram sob regras de impersonation: não são cópias exatas de suas fotos, mas novos frames de IA com o mesmo rosto e detalhes reconhecíveis. TikTok, conforme relatado, deletou algumas contas após jornalistas entrarem em contato, e Instagram enviou perfis relacionados para revisão. Mas a própria lacuna entre "não é sua foto" e "obviamente feita dela" permanece uma enorme zona cinzenta.

O que isso significa

A história do Arizona mostra que o mercado de influenciadores de IA há muito deixou de se limitar a modelos virtuais inofensivos. Se as acusações forem confirmadas, será um exemplo de como ferramentas generativas, comunidades pagas e moderação fraca se combinam em um esquema escalável de exploração da aparência de alguém sem consentimento — e como quase qualquer pessoa com um perfil público em redes sociais pode ser vulnerável. Para plataformas e legisladores, este é um sinal de que a lógica antiga de reclamações e exclusão manual não funciona mais.