Directora Valerie Veatch: los entusiastas de AI no ven el racismo ni la eugenesia en sus herramientas

La cineasta documentalista Valerie Wich llegó a la IA generativa de la misma manera que la mayoría de las personas — por curiosidad. Cuando OpenAI abrió el acceso público a Sora en 2024, un modelo que transforma texto en vídeo, ella no entendía completamente cómo funcionaba la tecnología, pero quería ver de qué era capaz. Estaba particularmente atraída por la comunidad de artistas que compartían sus obras con IA en línea.

Parecía un nuevo espacio para el diálogo creativo. Sin embargo, lo que Wich descubrió dentro la impactó profundamente. Los modelos generativos repetidamente producían imágenes saturadas de racismo y sexismo — imágenes estereotipadas que reflejaban prejuicios profundamente arraigados en los datos de entrenamiento.

El sesgo en IA no es novedad en sí: los investigadores vienen hablando de esto desde la aparición de los primeros modelos de lenguaje. Pero Wich no solo se enfrentó al problema — se enfrentó con la reacción ante él, o más bien con su ausencia. Los entusiastas con los que se encontró en la comunidad, en su mayoría, no notaban el problema o preferían ignorarlo.

La tecnología era interesante, los resultados eran cautivadores, y pocos realmente querían lidiar con el hecho de que la máquina estaba reproduciendo jerarquías históricamente establecidas. Esta indiferencia resultó ser una señal más inquietante para Wich que los propios artefactos en la salida de la IA. En última instancia, su experiencia se convirtió en la base del documental Ghost in the Machine, en el cual explora no tanto los aspectos técnicos de la IA generativa como la ideología que la sustenta.

El título de su entrevista en The Verge — "Gen AI Kool-Aid tastes like eugenics" — suena como una provocación, pero contiene una tesis específica: la narrativa de progreso que la industria promueve tiene raíces en el mismo terreno que la eugenesia. La idea de que las tecnologías harán el mundo mejor filtrando automáticamente lo "ineficiente" y lo "imperfecto" reproduce una lógica que la humanidad ya ha condenado en otro contexto. Wich no es la primera en establecer tal paralelo.

Los críticos del optimismo tecnológico hace tiempo señalan que la narrativa del Valle del Silicio sobre "mejorar" a las personas y sistemas a través de datos y algoritmos lleva consigo connotaciones jerárquicas, y a veces directamente discriminatorias. Pero el formato documental permite mostrarlo no a través de argumentación académica sino a través de experiencia personal — y precisamente eso es lo que hace que la posición de Wich sea difícil de descartar. Su viaje al espacio de IA es típico.

La mayoría de usuarios primero se maravillan con las capacidades, luego notan problemas — y aquí aparece una bifurcación. Algunos comienzan a exigir cambios. Otros racionalizan: "la tecnología es neutral", "estos son artefactos de datos", "todo mejorará con el tiempo".

Es precisamente este consentimiento silencioso lo que Wich considera el síntoma principal. Lo que ella describe no es un bug técnico que pueda corregirse con la próxima actualización. Es una cuestión sobre qué valores se codifican en las herramientas que moldean la cultura visual.

Y a medida que la industria de IA generativa crece más rápido de lo que logra comprender sus propias consecuencias, voces como la de Wich siguen siendo un contrapeso importante — aún más porque plantean preguntas incómodas no desde fuera, sino desde dentro.