Sale besogne pour une intelligence « propre » : comment les femmes indiennes payent le prix psychologique de la sécurité de vos réseaux neuronaux

Imaginez un village indien typique : le son des casseroles, les cris des enfants, l'odeur des épices. Et au milieu de cette scène pastorale s'assoit une jeune femme avec un ordinateur portable sur une saillie en argile. Elle n'écrit pas du code pour l'avenir et ne crée pas d'art numérique.

Sur son écran se trouve une scène de violence brutale, capturée par la caméra dans tous les détails. Elle doit la regarder jusqu'à la fin pour appliquer la bonne étiquette. Ce n'est pas un scénario de dystopie cyberpunk, mais la réalité quotidienne de ceux qui rendent votre IA "sûre."

Tandis qu'OpenAI, Google et Anthropic concourent sur l'éthique de leurs modèles, le travail sale est effectué par des personnes dont les noms n'apparaîtront jamais au générique.

L'industrie de l'intelligence artificielle est aujourd'hui obsédée par le concept d'« alignement ». Nous voulons que les réseaux de neurones ne fournissent pas de recettes de napalm, ne propagent pas la haine et ne soient pas impolies avec les utilisateurs. Mais pour y parvenir, les algorithmes doivent d'abord avoir montré ce qui est exactement « mauvais ».

Des millions d'heures de vidéo contenant de la violence, de la torture et de l'exploitation doivent être étiquetées manuellement. Ironiquement, pour créer une intelligence artificielle qui ne blesse pas les sentiments d'un utilisateur occidental, on finit par infliger un trauma psychologique très réel et profond aux habitants du Sud global. C'est une sorte de colonialisme numérique : nous exportons la pureté éthique, laissant des déchets toxiques sous la forme de psychés détruites des travailleurs.

Des entreprises comme Scale AI, Appen ou Sama embauchent des dizaines de milliers de travailleurs en Inde, au Kenya et aux Philippines. Pour les femmes en Inde rurale, comme Monsumi Murmu, c'est souvent la seule chance de gagner de l'argent sans quitter le foyer et abandonner leur famille. Mais le prix s'avère exorbitant. Après dix heures à regarder des scènes de violence sexualisée ou de meurtres, le psyché simplement "s'éteint." Les travailleuses décrivent cet état comme un "vide" ou une "tache blanche." Elles retournent auprès de leurs familles, de leurs enfants, mais ne peuvent pas ressentir de joie ou d'intimité. Ce n'est pas seulement du travail difficile, c'est une exportation systématique du trouble de stress post-traumatique à l'échelle industrielle.

Le problème est aggravé par le fait que les géants technologiques maximisent leur distance par rapport à cette chaîne d'approvisionnement. Ils achètent des ensembles de données déjà "propres" à des prestataires, qui eux-mêmes font des économies sur tout, y compris le soutien psychologique. Les contrats spécifient souvent les exigences de performance, mais presque jamais les protections de la santé mentale. En résultat, nous avons un schéma classique : les matières premières (données) sont extraites dans des conditions difficiles, nettoyées pour des centimes dans les régions les plus pauvres et vendues comme un produit d'élite et "innovant" à San Francisco. Sans ce bouclier vivant fait de psychés humaines, aucun GPT-4 ne durerait un jour sans un grand scandale.

La chose la plus triste dans cette situation est l'absence d'alternatives. Automatiser ce processus n'est pas encore possible : pour apprendre à l'IA à reconnaître la violence, vous avez besoin d'une personne pour dire ce qui est la violence. Nous sommes tombés dans un piège où l'humanisme d'une partie de l'humanité est construit sur la déshumanisation d'une autre.

Tandis que Silicon Valley discute des risques de révoltes de robots, les femmes dans les villages indiens perdent la capacité de ressentir, juste pour que votre chatbot ne dise rien qui ne devrait pas être dit. C'est un défaut fondamental de l'industrie technologique moderne, un que l'on a l'habitude de cacher honteusement derrière des présentations sur les « bénéfices pour l'humanité ».

Point clé : La sécurité de l'IA aujourd'hui n'est pas seulement des formules mathématiques élégantes, mais des milliers de vies brisées de l'autre côté de la planète. L'industrie pourra-t-elle créer des filtres automatiques pour entraîner des filtres, ou la "viande humaine" restera-t-elle le composant le moins cher des réseaux de neurones ?