Deepfakes de nudez em escolas: investigação da WIRED revela 90 instituições e 600 vítimas

A investigação da WIRED em conjunto com a plataforma analítica Indicator documentou quase 90 escolas em diferentes países do mundo onde alunos enfrentaram a disseminação de imagens íntimas geradas artificialmente. O número acumulado de vítimas ultrapassou 600 pessoas — e, pelo comportamento dos dados, o problema não está diminuindo, mas aumentando. Os autores examinaram fontes públicas, documentos judiciais e entrevistaram administradores escolares, pais e as próprias vítimas de dezenas de países.

Sua conclusão é inequívoca: as ferramentas para criar os chamados nudes a partir de uma fotografia de uma pessoa real se tornaram tão acessíveis que qualquer adolescente com um smartphone pode usá-las. A maioria desses serviços opera em uma zona cinzenta, não exige verificação de idade e não é responsável pelo conteúdo gerado. A escala do fenômeno foi inesperada até mesmo para os pesquisadores.

Entre os casos documentados estão escolas nos EUA, Reino Unido, Espanha, Austrália e Canadá. Na maioria das situações, colegas de classe das vítimas iniciaram os incidentes, usando fotografias de contas públicas de redes sociais. As imagens foram distribuídas através de aplicativos de mensagem, chats fechados e plataformas anônimas.

Alguns casos resultaram em processos criminais, mas a aplicação da lei permanece inconsistente: a legislação em muitas jurisdições simplesmente não acompanhou a tecnologia. As vítimas descrevem consequências psicológicas graves: depressão, transtornos de ansiedade, relutância em ir à escola. Algumas foram forçadas a mudar de instituição de ensino.

As administrações escolares, segundo os pais, frequentemente não sabem como reagir — não há protocolos nem recursos. Os policiais frequentemente aconselham a "ignorar" o ocorrido ou lembram que as imagens não são tecnicamente fotografias reais — o que para as vítimas soa como escárnio. O lado tecnológico agrava a situação.

Os aplicativos Nudify são amplamente divulgados em mecanismos de busca e redes sociais, apesar das regras das plataformas formalmente proibindo tal conteúdo. Os modelos de geração de imagens se tornam mais precisos a cada mês, a barreira de entrada é menor. Alguns serviços oferecem alguns "processamentos" gratuitos, monetizando o acesso posterior por assinatura.

Remover conteúdo gerado da internet é um processo demorado, caro e frequentemente infrutífero. No nível legislativo, a situação está começando a mudar, mas lentamente. Em vários estados dos EUA, a criação e distribuição de imagens íntimas deepfake sem consentimento foi criminalizada.

No Reino Unido, as emendas correspondentes entraram em vigor em 2024. A União Europeia está discutindo medidas adicionais no âmbito da Lei de IA. No entanto, não há consenso global, e a natureza transnacional da internet torna qualquer lei nacional apenas uma solução parcial.

A investigação é mais um sinal: a indústria de IA gerativa ainda não desenvolveu nem padrões técnicos nem normas do setor capazes de evitar o uso da tecnologia contra pessoas vulneráveis. Enquanto as empresas competem por participação de mercado e os reguladores se atrasam diante do progresso, os custos reais são suportados por alunos e suas famílias.