Diretora Valerie Veatch: entusiastas de AI não percebem o racismo e a eugenia em suas ferramentas

A cineasta documentarista Valerie Wich chegou à IA generativa do mesmo jeito que a maioria das pessoas — por curiosidade. Quando a OpenAI abriu acesso público ao Sora em 2024, um modelo que transforma texto em vídeo, ela não entendia completamente como a tecnologia funcionava, mas queria ver do que era capaz. Ela foi particularmente atraída pela comunidade de artistas que compartilhavam seus trabalhos com IA online.

Parecia um novo espaço para diálogo criativo. No entanto, o que Wich descobriu dentro a chocou. Modelos generativos repetidamente produziam imagens saturadas de racismo e sexismo — imagens estereotipadas refletindo preconceitos profundamente enraizados nos dados de treinamento.

Viés em IA não é novidade em si: pesquisadores vêm falando sobre isso desde o surgimento dos primeiros modelos de linguagem. Mas Wich não apenas se confrontou com o problema — ela se confrontou com a reação a ele, ou melhor, com sua ausência. Os entusiastas com quem ela se viu em comunidade, em sua maioria, não notavam o problema ou preferiam ignorá-lo.

A tecnologia era interessante, os resultados eram cativantes, e poucos realmente queriam lidar com o fato de que a máquina estava reproduzindo hierarquias historicamente estabelecidas. Essa indiferença se provou um sinal mais perturbador para Wich do que os próprios artefatos na saída da IA. No final, sua experiência se tornou a base do filme documentário Ghost in the Machine, no qual ela explora não tanto os aspectos técnicos da IA generativa quanto a ideologia por trás dela.

O título de sua entrevista para a Verge — "Gen AI Kool-Aid tastes like eugenics" — soa como provocação, mas contém uma tese específica: a narrativa de progresso que a indústria promove tem raízes no mesmo solo que a eugenia. A ideia de que as tecnologias tornarão o mundo melhor filtrando automaticamente o "ineficiente" e o "imperfeito" reproduz lógica que a humanidade já condenou em outro contexto. Wich não é a primeira a traçar esse paralelo.

Críticos do otimismo tecnológico há muito apontam que a narrativa do Vale do Silício sobre "melhorar" pessoas e sistemas através de dados e algoritmos carrega tons hierárquicos, e às vezes diretamente discriminatórios. Mas o formato documentário permite mostrar isso não através de argumentação acadêmica, mas através de experiência pessoal — e é precisamente isso que torna a posição de Wich difícil de descartar. Sua jornada no espaço de IA é típica.

A maioria dos usuários primeiro fica maravilhada com as capacidades, depois nota problemas — e aqui aparece uma bifurcação no caminho. Alguns começam a exigir mudanças. Outros racionalizam: "tecnologia é neutra", "esses são artefatos de dados", "tudo vai melhorar com o tempo".

É precisamente esse consentimento silencioso que Wich considera o principal sintoma. O que ela descreve não é um bug técnico que pode ser corrigido pela próxima atualização. É uma questão sobre quais valores estão codificados nas ferramentas que moldam a cultura visual.

E conforme a indústria de IA generativa cresce mais rápido do que consegue compreender suas próprias consequências, vozes como a de Wich permanecem um contrapeso importante — ainda mais porque fazem perguntas incômodas não de fora, mas de dentro.