La réalisatrice Valerie Veatch : les passionnés d'IA ne voient ni le racisme ni l'eugénisme dans leurs outils

La documentariste Valerie Veatch est venue à l'IA générative comme la plupart des gens : par curiosité. Lorsqu'OpenAI a ouvert en 2024 l'accès public à Sora, son modèle de texte-vers-vidéo, elle ne comprenait pas tout à fait le fonctionnement de cette technologie, mais voulait voir ce qu'elle savait faire. Elle était surtout attirée par la communauté d'artistes qui partageaient leurs créations d'IA en ligne. Cela ressemblait à un nouvel espace de dialogue créatif.

Ce que Veatch y a découvert l'a bouleversée. Les modèles génératifs produisaient sans cesse des images imprégnées de racisme et de sexisme : des représentations stéréotypées qui reflètent des préjugés profondément ancrés dans les données d'entraînement. Le biais en IA n'est pas une nouveauté en soi ; les chercheurs en parlent depuis l'apparition des premiers modèles de langage.

Mais Veatch n'a pas seulement été confrontée au problème : elle l'a été à la réaction qu'il suscite, ou plutôt à son absence. Les passionnés de sa communauté, pour la plupart, ne remarquaient pas le problème ou préféraient l'ignorer. La technologie était intéressante, les résultats fascinants, et personne ne tenait vraiment à affronter le fait que la machine reproduit une hiérarchie historiquement constituée.

Pour Veatch, cette indifférence était un signal plus alarmant que les artefacts eux-mêmes dans les productions de l'IA.

Son expérience a fini par nourrir le documentaire Ghost in the Machine, dans lequel elle explore moins les particularités techniques de l'IA générative que l'idéologie qui la sous-tend. Le titre de son entretien avec The Verge, « Gen AI Kool-Aid tastes like eugenics », sonne comme une provocation, mais porte une thèse précise : le récit du progrès que véhicule l'industrie plonge ses racines dans le même terreau que l'eugénisme. L'idée que la technologie améliorera le monde en écartant automatiquement l'« inefficace » et l'« imparfait » reproduit une logique que l'humanité a déjà condamnée dans un autre contexte.

Veatch n'est pas la première à établir ce parallèle. Les critiques de l'optimisme technologique soulignent depuis longtemps que le récit de la Silicon Valley sur l'« amélioration » des personnes et des systèmes par les données et les algorithmes charrie un sous-texte hiérarchique et, parfois, ouvertement discriminatoire. Mais le format documentaire lui permet de le montrer par l'expérience personnelle plutôt que par l'argumentation académique, et c'est ce qui rend sa position difficile à balayer.

Son parcours d'entrée dans l'univers de l'IA est typique. La plupart des utilisateurs s'émerveillent d'abord des capacités, puis remarquent les problèmes, et c'est là que la route se divise. Les uns commencent à réclamer des changements. Les autres rationalisent : « la technologie est neutre », « ce sont des artefacts des données », « ça s'améliorera avec le temps ». Veatch voit dans ce consentement silencieux le principal symptôme.

Ce qu'elle décrit n'est pas un bug technique que la prochaine mise à jour pourrait corriger. C'est une question sur les valeurs encodées dans les outils qui façonnent la culture visuelle. Et tant que l'industrie de l'IA générative grandit plus vite qu'elle ne mesure ses propres conséquences, des voix comme celle de Veatch restent un contrepoids important, d'autant qu'elles posent leurs questions dérangeantes de l'intérieur, et non de l'extérieur.