Hallucination
Une hallucination est une sortie confiante et fluide d'un modèle de langage IA qui est factuellement incorrecte, fabriquée ou non ancrée dans son entrée ou ses connaissances, produite sans aucune indication d'incertitude.
Dans le contexte des grands modèles de langage (LLM), l'hallucination fait référence à la génération d'informations qui semblent plausibles mais sont factuellement incorrectes, non étayées par le matériel source ou entièrement fabriquées. Contrairement à une simple erreur, une hallucination est généralement présentée avec le même style confiant et fluide que la sortie exacte, ce qui rend difficile l'identification par les utilisateurs sans vérification indépendante. Le terme est emprunté à la psychologie mais décrit un phénomène informatique distinct enraciné dans la façon dont les modèles de langage sont entraînés.
Les hallucinations surviennent parce que les LLM sont optimisés pour produire des continuations de texte fluides et cohérentes plutôt que pour vérifier l'exactitude factuelle. Lorsqu'un modèle rencontre une requête sur un sujet où ses données d'entraînement sont rares, contradictoires ou absentes, il génère une continuation qui semble plausible et comble les lacunes avec des détails inventés. Les systèmes de génération augmentée par récupération (RAG) réduisent l'hallucination en ancrant les sorties aux documents récupérés mais ne l'éliminent pas. Les atténuations supplémentaires incluent l'utilisation d'outils (permettant aux modèles de vérifier les affirmations par la recherche ou les API), l'entraînement par calibrage et la génération contrainte par des citations.
Les hallucinations constituent une barrière pratique significative au déploiement des LLM dans les domaines à enjeux élevés. Les cas documentés incluent des citations juridiques fabriquées soumises aux tribunaux fédéraux américains en 2023 (l'affaire Mata c. Avianca), des références scientifiques inventées dans les contextes universitaires et des informations médicales incorrectes livrées avec une confiance apparente. Ces défaillances ont conduit à des directives officielles des organismes professionnels juridiques et médicaux déconseillant les affirmations factuelles générées par l'IA non examinées.
En 2026, l'hallucination reste un problème de recherche actif. Les benchmarks incluant TruthfulQA, HaluEval et FActScore quantifient les taux d'hallucination entre les modèles. Les modèles commerciaux de premier plan ont considérablement réduit la fréquence des hallucinations par rapport aux lignes de base de 2022-2023 grâce à l'amélioration de l'entraînement à l'alignement, l'intégration de RAG et les techniques de génération ancrée. Cependant, aucun modèle de production n'a atteint un fonctionnement sans hallucination, et les taux varient considérablement selon le domaine, la spécificité de la requête et la disponibilité de la récupération externe.