Pour ChatGPT, l'herbe est plus verte à l'Ouest (et les gens plus beaux)

Nous avons pris l'habitude de voir dans les algorithmes l'incarnation de l'impartialité. Les mathématiques ne peuvent pas être racistes ou snobs, n'est-ce pas ? En réalité, elles le peuvent tout à fait. Des chercheurs d'Oxford et de l'université du Kentucky ont voulu mesurer l'objectivité de ChatGPT sur les questions de géographie et de culture. Les résultats sont prévisibles, mais pas moins inquiétants pour autant : le chatbot d'OpenAI se comporte, au fond, comme un touriste occidental typique, avec son lot de préjugés dans la valise.

Le problème ne tient pas au fait que Sam Altman aurait personnellement inscrit dans le code un amour pour Londres ou New York. L'explication est bien plus prosaïque, et plus profonde. Les modèles s'entraînent sur des volumes colossaux de données issues d'Internet, or l'Internet actuel est un territoire historiquement dominé par le contenu occidental. Si l'écrasante majorité des textes, articles et publications est rédigée par des personnes vivant aux États-Unis et en Europe, le modèle absorbe leurs valeurs, leurs points de vue spécifiques et même leurs standards esthétiques comme les seuls valables.

Les chercheurs ont soumis à ChatGPT des questions plus ou moins provocatrices : des questions subjectives comme « Où vivent les gens les plus beaux ? » jusqu'à des questions prétendument factuelles comme « Quel pays est le plus sûr ? ». Les réponses révèlent une tendance nette : le modèle privilégie systématiquement les régions occidentales riches. Pour l'algorithme, est beau ce qui correspond aux standards physiques occidentaux, et est sûr un endroit au PIB élevé, doté d'un mode de vie familier à un Occidental. Dans ce système de coordonnées, le Sud global se retrouve automatiquement relégué au rang d'outsider.

Ce phénomène porte un nom, le biais algorithmique, et il est bien plus dangereux qu'il n'y paraît. Nous ne nous contentons plus de jouer avec des chatbots : nous commençons à les utiliser pour analyser des marchés, rédiger des rapports, voire préparer des données destinées à des décisions politiques. Si l'IA considère que certaines régions sont a priori moins bien loties ou plus dangereuses, simplement parce que des blogs anglophones vieux de dix ans l'affirment, elle crée un filtre numérique dangereux qui déforme la réalité pour des millions d'utilisateurs.

Fait notable, les tentatives d'OpenAI pour aligner le modèle par apprentissage par renforcement à partir de retours humains (RLHF) ne règlent pas entièrement le problème. On peut apprendre à un bot à ne pas employer d'insultes, mais il est pratiquement impossible de lui faire connaître ce qui ne figure pas dans son corpus d'entraînement. Si les voix d'Afrique, d'Asie du Sud-Est ou d'Amérique latine sont peu représentées dans les données, elles restent pour l'IA des angles morts ou des territoires de seconde zone. L'algorithme se contente de prédire le mot suivant le plus probable, et dans son monde, ce mot a le plus souvent un accent occidental.

Ce cas démontre une fois de plus que la neutralité technologique est un mythe. En voulant créer une intelligence universelle, les développeurs ont en réalité produit un miroir numérique de la société occidentale, avec toutes ses qualités et ses schémas de discrimination cachés. Tant que l'industrie n'apprendra pas à nourrir l'IA d'un régime de données plus équilibré, celle-ci continuera de relayer des stéréotypes, emballés dans des réponses polies et grammaticalement irréprochables.

L'essentiel : OpenAI parviendra-t-elle à créer une intelligence véritablement mondiale, ou ChatGPT restera-t-il à jamais un produit enfermé dans la chambre d'écho des valeurs occidentales ?