Les chatbots d'IA répondent moins bien aux utilisateurs vulnérables

Pendant des années, l'industrie technologique nous a assuré que l'intelligence artificielle était le grand égalisateur, un outil qui apporte des connaissances de même qualité à un professeur de Harvard et à un étudiant de première année d'une université de province. Une nouvelle étude du MIT Center for Constructive Communication balaie ce mythe avec une précision chirurgicale : les principaux modèles d'IA donnent systématiquement des réponses moins précises aux utilisateurs maîtrisant moins bien l'anglais, ayant moins d'éducation formelle et une origine non occidentale. Autrement dit, les chatbots fonctionnent mieux pour ceux qui ont déjà accès à une information de qualité sans eux.

Pour mesurer l'ampleur du problème, un peu de contexte s'impose. Les plus grands modèles de langage, de ChatGPT à Claude et Gemini, ont été entraînés principalement sur des données en anglais produites par un groupe démographique précis : des locuteurs natifs instruits, en majorité originaires des États-Unis et d'Europe occidentale. Quand le modèle « réfléchit », il s'appuie sur les schémas appris dans ce corpus. Ce n'est pas un bug, c'est une caractéristique de l'architecture, mais ses conséquences sont très concrètes et socialement dangereuses.

Les chercheurs du MIT ont étudié comment la qualité des réponses varie selon le profil de l'utilisateur. Ils ont testé des scénarios où les questions étaient formulées avec les marques typiques d'une maîtrise limitée de la langue : syntaxe non standard, vocabulaire atypique, tournures influencées par l'accent. Les résultats sont parlants : les modèles ne comprenaient pas seulement moins bien ces requêtes, ils fournissaient des informations factuellement moins précises. Le problème ne se limite pas à un chatbot qui demanderait de reformuler la question. Il répond avec assurance, simplement en répondant moins bien. C'est particulièrement dangereux, car l'utilisateur ne reçoit aucun signal indiquant que la qualité a baissé.

Le mécanisme est multiple. D'abord, les données d'entraînement reflètent la vision du monde et les références culturelles de la classe instruite américaine. Face à une requête ambiguë, le modèle fait des hypothèses, et ces hypothèses sont statistiquement calibrées sur un profil social donné. Ensuite, les constructions linguistiques non standard réduisent la confiance du modèle dans son interprétation de l'intention de l'utilisateur, ce qui conduit à des réponses moins pertinentes ou vérifiées avec moins de soin. Enfin, il y a le problème du « biais culturel » : les mêmes notions, médicales, juridiques ou financières, ont des connotations et des contextes différents selon les cultures, que les modèles ignorent souvent.

Les conséquences de ce déséquilibre dépassent largement le débat académique. Pensez à ceux qui se tournent le plus souvent vers les outils d'IA pour obtenir des informations cruciales sur la santé, les droits, l'éducation ou l'emploi : précisément ceux qui ne peuvent pas se payer un avocat ou un médecin. Un migrant qui tente de comprendre les règles de visa.

Un étudiant de première génération qui cherche de l'aide pour entrer à l'université. Une personne âgée aux compétences linguistiques limitées qui vérifie son schéma de prise de médicaments. Pour ces personnes, un chatbot d'IA n'est pas un gadget pratique, mais une véritable alternative à des services professionnels qui leur sont inaccessibles.

Et ce sont justement elles que le système sert le moins bien.

Pour l'industrie, cette étude devrait sonner comme un signal d'alarme. OpenAI, Google, Anthropic et d'autres investissent des ressources considérables pour améliorer la précision et la sécurité de leurs modèles, mais les benchmarks standard mesurent les performances sur des entrées idéalisées. Si la qualité des réponses se dégrade sensiblement lorsque la langue de saisie n'est pas standard, les chiffres de précision affichés ne reflètent tout simplement pas l'expérience réelle d'une grande partie des utilisateurs. L'industrie a besoin de nouvelles métriques, qui tiennent compte de la diversité démographique et linguistique des scénarios de test.

L'étude du MIT n'est pas un verdict contre la technologie, mais un diagnostic de son état actuel. Les modèles de langage apprennent à partir de données créées par des humains et héritent de l'inégalité structurelle qu'elles contiennent. Tant que les approches d'entraînement et d'évaluation ne deviendront pas radicalement plus inclusives, les outils d'IA reproduiront et aggraveront l'inégalité qu'ils promettent de surmonter. Une technologie qui fonctionne mieux pour ceux qui en ont le moins besoin n'est pas un instrument neutre du progrès. C'est le miroir du système de privilèges existant, simplement en version numérique.