Sale boulot pour une intelligence « propre » : comment des Indiennes paient de leur santé mentale la sécurité de vos IA

Imaginez un village indien typique : bruits de vaisselle, cris d'enfants, odeur d'épices. Au milieu de cette scène pastorale, une jeune femme est assise avec un ordinateur portable sur un rebord d'argile. Elle n'écrit pas le code du futur et ne crée pas d'art numérique. Sur son écran, une scène de violence brutale, filmée dans les moindres détails. Elle doit la regarder jusqu'au bout pour poser la bonne étiquette. Ce n'est pas le scénario d'une dystopie cyberpunk, mais le quotidien de celles qui rendent votre IA « sûre ». Tandis qu'OpenAI, Google et Anthropic rivalisent sur l'éthique de leurs modèles, le sale boulot est fait par des gens dont le nom n'apparaîtra jamais au générique.

L'industrie de l'intelligence artificielle est aujourd'hui obsédée par l'« alignement » (alignment). On veut des réseaux de neurones qui ne donnent pas de recettes de napalm, ne propagent pas la haine et ne sont pas grossiers avec les utilisateurs. Mais pour y parvenir, il faut d'abord montrer aux algorithmes ce qui est « mauvais ».

Des millions d'heures de vidéos de violences, de tortures et d'exploitation doivent être annotées à la main. L'ironie est cruelle : pour créer une intelligence artificielle qui ne heurte pas la sensibilité de l'utilisateur occidental, il faut infliger des traumatismes psychiques bien réels et profonds aux habitants du Sud global. C'est une forme de colonialisme numérique : nous exportons la pureté éthique et laissons derrière nous des déchets toxiques sous la forme de psychismes détruits.

Des entreprises comme Scale AI, Appen ou Sama emploient des dizaines de milliers de travailleurs en Inde, au Kenya et aux Philippines. Pour des femmes de l'Inde rurale, comme Monsumi Murmu, c'est souvent la seule possibilité de gagner de l'argent sans quitter la maison ni abandonner leur famille. Mais le prix est exorbitant.

Après dix heures à regarder des scènes de violences sexualisées ou de meurtres, le psychisme se « déconnecte » tout simplement. Les travailleuses décrivent cet état comme un « vide » ou une « tache blanche ». Elles retrouvent leur famille, leurs enfants, mais ne ressentent plus ni joie ni proximité.

Ce n'est pas seulement un travail pénible : c'est l'exportation méthodique du trouble de stress post-traumatique à l'échelle industrielle.

Le problème s'aggrave du fait que les géants de la tech prennent un maximum de distance avec cette chaîne d'approvisionnement. Ils achètent à des sous-traitants des jeux de données déjà « propres », qui rognent à leur tour sur tout, y compris sur le soutien psychologique. Les contrats fixent souvent des exigences de productivité, mais presque jamais de protection de la santé mentale.

On obtient un schéma classique : la matière première (les données) est extraite dans des conditions difficiles, raffinée pour quelques centimes dans les régions les plus pauvres, puis vendue comme un produit haut de gamme et « innovant » à San Francisco. Sans ce bouclier vivant fait de psychismes humains, GPT-4 n'aurait pas tenu un jour sans scandale retentissant.

Le plus triste dans cette situation, c'est l'absence d'alternative. Il est pour l'instant impossible d'automatiser ce processus : pour apprendre à une IA à reconnaître la violence, il faut un humain qui lui dise que c'est de la violence. Nous sommes tombés dans un piège où l'humanisme d'une partie de l'humanité repose sur la déshumanisation d'une autre. Pendant que la Silicon Valley débat du risque d'une révolte des robots, dans les villages indiens, des femmes perdent la capacité de ressentir, simplement pour que votre chatbot n'en dise pas trop. C'est un défaut fondamental de l'industrie tech actuelle, que l'on passe pudiquement sous silence derrière des présentations sur les « bienfaits pour l'humanité ».

L'essentiel : la sécurité de l'IA aujourd'hui, ce ne sont pas seulement d'élégantes formules mathématiques, mais aussi des milliers de vies brisées à l'autre bout de la planète. L'industrie parviendra-t-elle à créer des filtres automatiques pour entraîner les filtres, ou la « chair humaine » restera-t-elle le composant le moins cher des réseaux de neurones ?