La cineasta Valerie Veatch: los entusiastas de la IA no ven el racismo ni la eugenesia en sus herramientas

La documentalista Valerie Veatch llegó a la IA generativa como la mayoría de la gente: por curiosidad. Cuando OpenAI abrió en 2024 el acceso público a Sora, su modelo de texto a vídeo, ella no entendía del todo cómo funcionaba la tecnología, pero quería ver de qué era capaz. Le atraía sobre todo la comunidad de artistas que compartían sus obras de IA en línea. Parecía un nuevo espacio para el diálogo creativo.

Lo que Veatch encontró dentro la conmocionó. Los modelos generativos producían una y otra vez imágenes impregnadas de racismo y sexismo: representaciones estereotipadas que reflejan prejuicios muy arraigados en los datos de entrenamiento. El sesgo en la IA no es novedad en sí misma; los investigadores hablan de ello desde la aparición de los primeros modelos de lenguaje.

Pero Veatch se topó con algo más que el problema: se topó con la reacción ante él, o mejor dicho, con su ausencia. Los entusiastas de su comunidad, en su mayoría, no veían el problema o preferían ignorarlo. La tecnología era interesante, los resultados eran fascinantes, y a nadie le interesaba especialmente lidiar con el hecho de que la máquina reproduce una jerarquía histórica.

Para Veatch, esa indiferencia fue una señal más inquietante que los propios artefactos en los resultados de la IA.

Su experiencia acabó siendo la base del documental Ghost in the Machine, en el que explora no tanto los aspectos técnicos de la IA generativa como la ideología que hay detrás. El título de su entrevista con The Verge, "Gen AI Kool-Aid tastes like eugenics", suena a provocación, pero encierra una tesis concreta: el relato de progreso que difunde la industria hunde sus raíces en el mismo terreno que la eugenesia. La idea de que la tecnología hará el mundo mejor descartando automáticamente lo "ineficiente" y lo "imperfecto" reproduce una lógica que la humanidad ya condenó en otro contexto.

Veatch no es la primera en trazar este paralelismo. Los críticos del optimismo tecnológico llevan tiempo señalando que el relato de Silicon Valley sobre "mejorar" a las personas y los sistemas con datos y algoritmos lleva implícito un trasfondo jerárquico y, a veces, abiertamente discriminatorio. Pero el formato documental le permite mostrarlo a través de la experiencia personal y no de la argumentación académica, y eso hace que su postura sea difícil de descartar.

Su historia de entrada en el espacio de la IA es típica. La mayoría de los usuarios primero se maravillan con las capacidades, luego notan los problemas, y ahí llega la bifurcación. Unos empiezan a exigir cambios. Otros racionalizan: "la tecnología es neutral", "son artefactos de los datos", "mejorará con el tiempo". Veatch considera este consentimiento silencioso el principal síntoma.

Lo que describe no es un fallo técnico que pueda corregir la próxima actualización. Es una cuestión sobre qué valores se codifican en las herramientas que dan forma a la cultura visual. Y mientras la industria de la IA generativa crece más rápido de lo que logra asimilar sus propias consecuencias, voces como la de Veatch siguen siendo un contrapeso importante, tanto más cuanto que plantean sus preguntas incómodas desde dentro y no desde fuera.