La réalisatrice Valerie Veatch : les enthousiastes de l'AI ne voient pas le racisme et l'eugénisme dans leurs outils

La cinéaste documentariste Valerie Wich est venue à l'IA générative de la même façon que la plupart des gens — par curiosité. Quand OpenAI a ouvert l'accès public à Sora en 2024, un modèle qui transforme le texte en vidéo, elle ne comprenait pas complètement comment la technologie fonctionnait, mais voulait voir ce dont elle était capable. Elle a été particulièrement attirée par la communauté des artistes qui partageaient leurs œuvres d'IA en ligne.

Cela semblait être un nouvel espace pour le dialogue créatif. Cependant, ce que Wich a découvert à l'intérieur l'a choquée. Les modèles génératifs produisaient à plusieurs reprises des images saturées de racisme et de sexisme — des images stéréotypées reflétant des préjugés profondément enracinés dans les données d'entraînement.

Le biais dans l'IA n'est pas nouveau en soi : les chercheurs en parlent depuis l'apparition des premiers modèles de langage. Mais Wich n'a pas seulement confronté le problème — elle a confronté la réaction à celui-ci, ou plutôt son absence. Les enthousiastes avec lesquels elle s'est retrouvée dans la communauté, en grande majorité, ne remarquaient pas le problème ou préféraient l'ignorer.

La technologie était intéressante, les résultats étaient captivants, et peu voulaient réellement s'occuper du fait que la machine reproduisait des hiérarchies historiquement établies. Cette indifférence s'est avérée être un signal plus troublant pour Wich que les artefacts eux-mêmes dans les résultats de l'IA. En fin de compte, son expérience a jeté les bases du film documentaire Ghost in the Machine, dans lequel elle explore non pas tant les aspects techniques de l'IA générative que l'idéologie qui la soutend.

Le titre de son interview pour Verge — « Gen AI Kool-Aid tastes like eugenics » — sonne comme une provocation, mais contient une thèse spécifique : le récit de progrès que l'industrie promeut a ses racines dans le même sol que l'eugénisme. L'idée que les technologies rendront le monde meilleur en filtrant automatiquement l'« inefficace » et l'« imparfait » reproduit une logique que l'humanité a déjà condamnée dans un autre contexte. Wich n'est pas la première à établir un tel parallèle.

Les critiques de l'optimisme technologique ont longtemps souligné que le récit de la Silicon Valley sur l'« amélioration » des gens et des systèmes par les données et les algorithmes porte des connotations hiérarchiques, et parfois directement discriminatoires. Mais le format documentaire permet de le montrer non pas par une argumentation académique, mais par l'expérience personnelle — et c'est précisément ce qui rend la position de Wich difficile à écarter. Son parcours dans l'espace de l'IA est typique.

La plupart des utilisateurs s'émerveillent d'abord des capacités, puis remarquent des problèmes — et ici apparaît un carrefour. Certains commencent à exiger des changements. D'autres rationalisent : « la technologie est neutre », « ce sont des artefacts de données », « tout s'améliorera avec le temps ».

C'est précisément ce consentement silencieux que Wich considère comme le symptôme principal. Ce qu'elle décrit n'est pas un bug technique qui peut être corrigé par la prochaine mise à jour. C'est une question sur les valeurs qui sont codifiées dans les outils qui façonnent la culture visuelle.

Et alors que l'industrie de l'IA générative se développe plus vite qu'elle ne réussit à comprendre ses propres conséquences, des voix comme celle de Wich restent un contrepoids important — d'autant plus qu'elles posent des questions inconfortables non pas de l'extérieur, mais de l'intérieur.