Nudes deepfake nas escolas: investigação da WIRED identifica 90 instituições e 600 vítimas

Uma investigação da revista WIRED em parceria com a plataforma de análise Indicator identificou quase 90 escolas em diferentes países onde alunos tiveram imagens íntimas geradas por inteligência artificial compartilhadas. O total de vítimas passa de 600 pessoas — e, a julgar pela tendência, o problema não está diminuindo, e sim crescendo. Os autores analisaram fontes abertas e documentos judiciais, além de entrevistar diretores de escolas, pais e as próprias vítimas em dezenas de países.

A conclusão é clara: as ferramentas que criam os chamados nudes a partir da foto de uma pessoa real ficaram tão acessíveis que qualquer adolescente com um smartphone consegue usá-las. A maioria desses serviços opera em uma zona cinzenta, não exige verificação de idade e não se responsabiliza pelo conteúdo gerado. A dimensão do fenômeno surpreendeu até os pesquisadores.

Entre os casos registrados estão escolas nos EUA, no Reino Unido, na Espanha, na Austrália e no Canadá. Na maioria das situações, os autores eram colegas de classe das vítimas, que usaram fotos de perfis públicos nas redes sociais. As imagens circularam por aplicativos de mensagens, grupos fechados e plataformas anônimas.

Parte dos casos virou processo criminal, mas a aplicação da lei continua inconsistente: em muitas jurisdições, a legislação simplesmente não acompanhou a tecnologia. As vítimas relatam consequências psicológicas graves: depressão, transtornos de ansiedade e recusa em ir à escola. Algumas precisaram mudar de instituição de ensino.

Segundo os pais, as direções das escolas muitas vezes não sabem como reagir — faltam protocolos e recursos. Policiais com frequência aconselham a "ignorar" o ocorrido ou lembram que, tecnicamente, as imagens não são fotos reais — o que, para as vítimas, soa como deboche. O lado tecnológico agrava o quadro.

Aplicativos de nudify são anunciados ativamente em buscadores e redes sociais, apesar de as regras das plataformas proibirem formalmente esse tipo de conteúdo. Os modelos de geração de imagens ficam mais precisos a cada mês, e a barreira de entrada, mais baixa. Alguns serviços oferecem algumas "edições" gratuitas e cobram assinatura pelo acesso adicional.

Remover o conteúdo gerado da internet é um processo demorado, caro e, muitas vezes, inútil. No campo legislativo, a situação começa a mudar, mas devagar. Vários estados dos EUA criminalizaram a criação e a divulgação de imagens íntimas deepfake sem o consentimento da pessoa.

No Reino Unido, as emendas correspondentes entraram em vigor em 2024. A União Europeia discute medidas adicionais no âmbito do AI Act. Ainda assim, não há consenso global, e o caráter transnacional da internet faz de qualquer lei nacional apenas uma solução parcial.

A investigação é mais um alerta: a indústria de AI generativa ainda não criou padrões técnicos nem normas setoriais capazes de impedir o uso da tecnologia contra pessoas vulneráveis. Enquanto as empresas disputam participação de mercado e os reguladores correm atrás do progresso, quem paga o preço real são os estudantes e suas famílias.