La crise de la vérité à l'ère des LLM : pourquoi votre assistant IA est un menteur pathologique

Imaginez que votre ami le plus brillant et le mieux lu se mette soudain à vous affirmer, avec un aplomb total, que la Lune est faite de gruyère suisse et que Napoléon a gagné à Waterloo. Il le fait avec tant de conviction que vous commencez à douter de vos propres connaissances. C'est exactement la situation de l'industrie de l'intelligence artificielle aujourd'hui. Nous sommes confrontés à ce que les experts appellent une « crise de la vérité », bien plus grave que quelques erreurs dans des devoirs d'écoliers.

Pendant longtemps, nous avons vu les hallucinations des réseaux de neurones comme une maladie de jeunesse passagère. Il semblait suffire d'ajouter des paramètres et de nourrir le modèle de davantage de textes de qualité pour qu'il cesse de mentir. La réalité s'est montrée plus rude. La nature même des grands modèles de langage (LLM) exclut la notion de « vérité » au sens humain. Ces systèmes sont des calculatrices statistiques qui jonglent avec les tokens avec brio. Ils ne savent pas ce que sont la gravité ou l'histoire ; ils savent seulement quels mots apparaissent le plus souvent côte à côte. Résultat : un outil qui place la vraisemblance au-dessus de la vérité.

Cette crise se superpose aux limites physiques de notre monde. Dans les forêts de la péninsule supérieure du Michigan, la seule mine de nickel en activité aux États-Unis vit ses derniers jours. Le nickel est essentiel aux batteries et à l'infrastructure qui alimente les centres de données où vivent les réseaux de neurones. Nous pressons littéralement la planète jusqu'à la dernière goutte pour faire tourner des systèmes qui nous servent de plus en plus souvent des déchets numériques à la place de faits réels. Le contraste entre la rareté des ressources réelles et la surabondance de contenus douteux devient inquiétant.

Pourquoi cela compte-t-il maintenant ? Parce que l'IA n'est plus un jouet de chatbot. Google intègre AI Overviews directement dans son moteur de recherche, OpenAI lance SearchGPT, et des entreprises confient aux réseaux de neurones la rédaction de documents juridiques et de certificats médicaux. Quand l'IA se trompe dans une recette de tarte, c'est amusant. Quand elle hallucine un précédent judiciaire ou le diagnostic d'un patient, c'est une catastrophe. Nous déléguons la vérification du réel à des algorithmes qui, par définition, ne savent pas distinguer le vrai du faux.

Les développeurs tentent d'y remédier avec le RAG (génération augmentée par récupération), qui oblige l'IA à consulter des sources externes. Mais là aussi, il y a un piège : internet se remplit rapidement de textes générés par d'autres IA. C'est le serpent qui se mord la queue. Les modèles se mettent à apprendre des hallucinations de leurs prédécesseurs, ce qui dégrade la qualité et finit par brouiller la base factuelle. Hier, nous redoutions les fake news de propagandistes humains ; aujourd'hui, nous redoutons la distorsion systémique du réel au niveau du code.

En définitive, la crise de la vérité nous oblige à repenser notre rapport à la technologie. Nous avons l'habitude d'un ordinateur qui est une calculatrice répondant toujours « 2+2=4 ». Mais les LLM ne sont pas des calculatrices, ce sont des improvisateurs. Tant que l'industrie n'aura pas trouvé comment doter les réseaux de neurones d'un mécanisme de vérification objective, il faudra revenir à la bonne vieille habitude de ne rien croire sur parole, même quand cette parole vient de l'algorithme le plus perfectionné de l'histoire de l'humanité.

L'essentiel : les hallucinations ne sont pas une erreur technique mais une caractéristique fondamentale de l'architecture actuelle de l'IA. Pourrons-nous faire confiance à une recherche qui génère des réponses selon la probabilité plutôt que selon les faits, ou allons-nous revenir à l'époque de la vérification manuelle de chaque mot ?