Mulheres processam criadores do AI ModelForge no Arizona por avatares pornô feitos com fotos reais

Três mulheres entraram com um processo no Arizona contra um grupo de homens que, segundo as autoras, transformavam fotos de redes sociais em avatares pornográficos gerados por IA e vendiam não só o resultado, mas também instruções para produzi-lo. O caso chama atenção não pelo tamanho das contas envolvidas, e sim porque as vítimas, de acordo com a ação, não eram celebridades, mas usuárias comuns com perfis abertos.

Como funcionava o esquema

Uma das autoras, identificada nos autos como MG, conta que mantinha uma conta comum no Instagram, onde publicava stories, fotos com amigos e momentos do dia a dia. No verão, recebeu um link para vídeos de uma mulher muito parecida com ela: o mesmo rosto, corpo semelhante e tatuagens nos mesmos lugares. Segundo ela, o material era convincente o suficiente para que estranhos pudessem tomá-lo como real.

De acordo com a ação, três homens de Phoenix, junto com outros participantes não identificados, procuravam fotos de mulheres jovens na internet e as usavam para criar modelos fictícias de IA. Esse conteúdo, afirmam as autoras, era publicado no Instagram e no TikTok e monetizado no Fanvue. Paralelamente, a plataforma Whop vendia uma assinatura de $24,95 por mês para cursos que ensinavam outros usuários a montar contas do mesmo tipo.

O processo descreve um fluxo quase industrial:

• busca por mulheres com contas relativamente pequenas nas redes sociais
• coleta de fotos e upload no CreatorCore para treinar o modelo
• uso de um aplicativo separado para "despir" as imagens e gerar conteúdo explícito
• publicação de vídeos e fotos gerados por IA nas redes sociais para ganhar alcance
• venda de instruções e templates para novos participantes em uma comunidade paga

"Foi nojento em todos os níveis", resumiu uma das autoras sobre o que viu.

Por que o processo se destaca

O caso se diferencia de muitas histórias de deepfake pornô porque envolve não só a publicação de imagens sem consentimento, mas também a venda de um manual pronto. O advogado das autoras afirma que os assinantes supostamente aprendiam a escolher mulheres incapazes de se defender rapidamente e onde conseguir as fotos delas. A ação menciona especificamente a preferência por contas com menos de 50 mil seguidores, para reduzir o risco de problemas jurídicos.

Segundo dados citados no processo, o conteúdo produzido com esse esquema acumulava milhões de visualizações e, em um dos meses, gerou mais de $50 mil em receita. O documento também afirma que, em 2025, o CreatorCore tinha mais de 8 mil assinantes, que geraram mais de 500 mil imagens e vídeos. Mesmo que parte desses números ainda precise ser comprovada na Justiça, eles indicam que não se trata de um caso marginal, mas de uma economia inteira em torno de influenciadores de IA.

Outro detalhe é o suposto rebranding do projeto. No momento da publicação, o Linktree do AI ModelForge direcionava para a comunidade TaviraLabs no Telegram, com mais de 18 mil membros, que se apresentava como a maior comunidade de treinamento de modelos de influenciadores de IA. Isso é típico nesse tipo de esquema: trocar nome, plataforma e embalagem permite afastar rapidamente o público da atenção negativa sem quebrar o funil de vendas nem abandonar o antigo modelo de negócio. Para vítimas e plataformas, isso dificulta ainda mais ligar as contas novas às antigas.

Onde a proteção falha

No papel, as vítimas já contam com instrumentos legais, mas na prática eles agem devagar. A lei federal Take It Down Act foi sancionada em maio de 2025, mas só entra em vigor em maio de 2026. Ela deve tornar ilegal a publicação de conteúdo sexualizado gerado por IA sem consentimento e obrigar as plataformas a remover esse material em até 48 horas após uma denúncia. Em nível estadual, proibições semelhantes já foram aprovadas, inclusive no Arizona, mas os próprios políticos locais admitem que essas medidas costumam reagir ao dano depois que ele acontece, em vez de evitá-lo.

O problema também passa pela moderação das plataformas. Segundo as autoras, muitas imagens continuavam no Instagram porque, formalmente, não se enquadravam nas regras sobre impersonation: não eram cópias exatas das fotos delas, mas novas imagens geradas por IA com o mesmo rosto e traços reconhecíveis. O TikTok teria removido parte das contas depois de ser procurado por jornalistas, e o Instagram enviou os perfis relacionados para análise. Ainda assim, a distância entre "não é a foto dela" e "claramente foi feito a partir dela" segue sendo uma enorme zona cinzenta.

O que isso significa

O caso do Arizona mostra que o mercado de influenciadores de IA há muito tempo deixou de se limitar a modelos virtuais inofensivas. Se as acusações forem confirmadas, será um exemplo de como ferramentas generativas, comunidades pagas e moderação fraca se combinam em um esquema escalável de exploração da aparência alheia sem consentimento — e de como praticamente qualquer pessoa com um perfil aberto nas redes sociais pode ficar vulnerável. Para plataformas e legisladores, é um sinal de que a velha lógica de denúncias e remoção manual já não dá conta.

*A Meta é reconhecida como organização extremista e proibida na Rússia.