Deepfakes e vazamentos de dados: como a IA viola a privacidade

Uma investigação da MIT Technology Review revela duas graves ameaças à privacidade geradas pela IA atual: mulheres descobrem seus corpos em vídeos pornográficos falsos criados com deepfake, e grandes modelos de linguagem revelam sem intenção números de telefone privados e outros dados pessoais.

Pornô deepfake como problema global

Quando Jennifer conseguiu um emprego em 2023, passou sua foto profissional por um programa de reconhecimento facial, procedimento padrão para novos funcionários. Poucos dias depois veio o choque: ela encontrou um vídeo em que seu rosto e seu corpo foram usados para criar conteúdo pornográfico sem nenhum consentimento.

A história de Jennifer está longe de ser exceção. Segundo pesquisas, mais de 99% de todos os vídeos deepfake são pornográficos, e a esmagadora maioria das vítimas são mulheres e meninas.

As ferramentas para criar esses vídeos estão cada vez mais acessíveis. Hoje, aplicativos gratuitos e scripts simples permitem que qualquer pessoa, sem habilidades especiais, produza vídeos convincentes em poucas horas.

O problema ganha escala: as plataformas de hospedagem de conteúdo lutam contra a onda de pornô deepfake, mas remover o material pode ser impossível depois que ele se espalha. Para as vítimas, isso significa vergonha permanente, trauma psicológico e, muitas vezes, a impossibilidade de provar na Justiça que eram elas. Além disso, cada nova publicação do vídeo causa um novo trauma.

Quando a IA expõe o que é pessoal

Em paralelo, a investigação encontrou uma segunda ameaça: grandes modelos de linguagem reproduzem dados privados sem intenção. Quando as pessoas inserem seus números de telefone, endereços de e-mail e outras informações pessoais em assistentes de IA, esses dados podem ser armazenados nos dados de treinamento e reproduzidos depois em respostas a outros usuários.

Durante o treinamento, os modelos absorvem enormes volumes de texto da internet, incluindo mensagens privadas, bancos de dados e vazamentos de empresas. O sistema pode reproduzir essas informações se uma consulta adequada esbarrar nelas por acaso. Os usuários muitas vezes não sabem que suas informações pessoais foram copiadas para o próprio modelo e podem ser reveladas.

• Números de telefone são reproduzidos em uma porcentagem significativa dos testes
• Endereços de e-mail são expostos com frequência ainda maior
• Números de seguridade social, endereços e outros dados também correm risco de exposição
• Os usuários geralmente não são informados sobre esse risco ao usar o serviço

Um vácuo jurídico

Nem o pornô deepfake nem o vazamento de dados por meio da IA têm proteção jurídica adequada na maioria das jurisdições. A Europa avança mais rápido, graças ao GDPR e ao novo AI Act, mas nos EUA, na Rússia e em muitos outros países as vítimas costumam ficar sem um meio real de proteger seus direitos.

As empresas que criam modelos de IA raramente assumem responsabilidade suficiente. Não há um padrão único para limpar os dados de treinamento de informações privadas, nem multas rigorosas por vazamentos. Algumas empresas nem sequer revelam se houve vazamento, escondendo o problema do público.

O que isso significa

Esses dois problemas mostram um quadro mais amplo: a IA se desenvolve em um vácuo jurídico, com responsabilização mínima dos desenvolvedores perante as vítimas. São urgentes soluções em três níveis: técnicas, para filtrar dados de treinamento e se proteger de deepfakes; jurídicas, com responsabilização criminal pela criação e distribuição de deepfakes pornográficos; e educacionais, porque as pessoas precisam conhecer esses riscos.

Sem uma abordagem abrangente, a onda de violações de privacidade só vai crescer. Os desenvolvedores de sistemas de IA devem assumir a responsabilidade pelos dados que coletam e pela forma como os usam. E os reguladores precisam, finalmente, começar a agir.