A cineasta Valerie Veatch: entusiastas de IA não enxergam o racismo e a eugenia em suas ferramentas

A documentarista Valerie Veatch chegou à IA generativa como a maioria das pessoas: por curiosidade. Quando a OpenAI abriu o acesso público ao Sora, seu modelo de texto para vídeo, em 2024, ela não entendia bem como a tecnologia funcionava, mas queria ver do que era capaz. O que mais a atraía era a comunidade de artistas que compartilhavam seus trabalhos de IA on-line. Parecia um novo espaço para o diálogo criativo.

O que Veatch encontrou lá dentro a chocou. Os modelos generativos produziam, repetidamente, imagens impregnadas de racismo e sexismo: representações estereotipadas que refletem preconceitos profundamente enraizados nos dados de treinamento. O viés em IA não é novidade em si; pesquisadores falam disso desde o surgimento dos primeiros modelos de linguagem.

Mas Veatch não se deparou apenas com o problema, e sim com a reação a ele, ou melhor, com a ausência de reação. Os entusiastas da comunidade, em sua maioria, não percebiam o problema ou preferiam ignorá-lo. A tecnologia era interessante, os resultados eram fascinantes, e ninguém queria muito lidar com o fato de que a máquina reproduz uma hierarquia historicamente construída.

Para Veatch, essa indiferença foi um sinal mais alarmante do que os próprios artefatos nos resultados da IA.

Sua experiência acabou servindo de base para o documentário Ghost in the Machine, no qual ela explora não tanto os aspectos técnicos da IA generativa, mas a ideologia por trás dela. O título da entrevista à The Verge, "Gen AI Kool-Aid tastes like eugenics", soa como provocação, mas carrega uma tese concreta: a narrativa de progresso difundida pela indústria tem raízes no mesmo solo que a eugenia. A ideia de que a tecnologia tornará o mundo melhor ao descartar automaticamente o "ineficiente" e o "imperfeito" reproduz uma lógica que a humanidade já condenou em outro contexto.

Veatch não é a primeira a traçar esse paralelo. Críticos do otimismo tecnológico apontam há tempos que a narrativa do Vale do Silício sobre "melhorar" pessoas e sistemas com dados e algoritmos carrega um subtexto hierárquico e, às vezes, abertamente discriminatório. Mas o formato documental permite mostrar isso por meio da experiência pessoal, e não de argumentos acadêmicos, e é isso que torna a posição dela difícil de descartar.

A trajetória dela ao entrar no universo da IA é típica. A maioria dos usuários primeiro se encanta com as capacidades, depois nota os problemas, e é aí que o caminho se bifurca. Alguns passam a exigir mudanças. Outros racionalizam: "a tecnologia é neutra", "são artefatos dos dados", "vai melhorar com o tempo". Veatch vê nesse consentimento silencioso o principal sintoma.

O que ela descreve não é um bug técnico que a próxima atualização possa corrigir. É uma questão sobre quais valores são codificados nas ferramentas que moldam a cultura visual. E enquanto a indústria de IA generativa cresce mais rápido do que consegue assimilar as próprias consequências, vozes como a de Veatch continuam sendo um contrapeso importante, ainda mais porque fazem suas perguntas incômodas por dentro, e não de fora.