Sberbank et l'équipe d'Andreï Kourpatov conçoivent une architecture contre les hallucinations de l'IA

Sberbank a dévoilé un travail de recherche intitulé « modèle d'IA de la réalité psychique humaine ». Le Laboratoire de neurosciences et du comportement humain, dirigé par Andreï Kourpatov, y participe, et l'objectif est ambitieux : donner aux agents IA un moyen d'aborder la psyché humaine sans hallucinations.

De quoi parle la recherche

D'après la description publiée, il ne s'agit pas d'une nouvelle fonction de chatbot, mais d'une tentative de décrire la réalité psychique humaine sous une forme compréhensible par une machine. Sber évoque un modèle que les systèmes d'IA pourraient utiliser comme une carte interne de concepts, de liens et d'états.

C'est particulièrement important pour les tâches où il ne suffit pas de choisir une réponse statistiquement plausible : il faut conserver le contexte, la logique et les relations de cause à effet autour du comportement, de la motivation et de la perception d'une personne.

Le fait que le projet soit porté par un laboratoire à la croisée des neurosciences, de la recherche comportementale et de l'IA indique la direction du travail. Il ne s'agit pas simplement d'affiner un réseau de neurones sur un corpus de textes de psychologie, mais de s'appuyer sur une structure plus formelle. Autrement dit, l'enjeu n'est pas que le modèle parle joliment de l'humain, mais qu'il invente moins et ne remplace pas des liens réels par des interprétations commodes mais fausses. Pour les sujets touchant à la psyché, c'est critique : une erreur de formulation devient facilement une erreur de conclusion.

Comment réduire les erreurs

Le détail clé est l'architecture en graphe. On entend généralement par là un système où les connaissances ne sont pas représentées par du texte continu, mais par des nœuds et des liens entre eux. Pour les agents IA, cela peut devenir un moyen de vérifier les réponses non seulement selon la probabilité du mot suivant, mais aussi selon une structure explicite de concepts. Si le modèle raisonne sur la peur, la motivation, l'attention ou les distorsions de perception, il peut s'appuyer sur une carte des relations entre ces entités plutôt que sur des associations aléatoires issues des données d'entraînement.

• fixer explicitement les concepts et leurs liens
• vérifier si une nouvelle conclusion contredit la structure déjà connue
• harmoniser entre elles les réponses de plusieurs agents IA
• réduire le risque d'affabulation là où il faut une logique causale et non de la rhétorique

La formulation de Sber laisse entendre un autre point important : l'architecture est conçue précisément pour l'interaction des agents entre eux. Ce n'est plus un chatbot isolé, mais un environnement où plusieurs modèles ou modules échangent des jugements sur une personne. Dans ce mode, le problème des hallucinations devient encore plus aigu : une erreur peut se multiplier rapidement le long de la chaîne. Le schéma en graphe sert de cadre commun qui maintient la discussion dans les limites d'une logique convenue.

À quoi cela pourrait servir

Si l'approche fonctionne, elle pourrait s'appliquer aux systèmes d'aide à la décision, aux assistants numériques, aux produits éducatifs et aux services qui analysent le comportement des utilisateurs. Il ne s'agit pas forcément de poser des diagnostics. Un scénario applicatif bien plus proche est celui où l'IA aide à analyser la communication, les réactions, les schémas motivationnels ou les biais cognitifs, mais avec plus de prudence et de cohérence.

Pour le marché des entreprises, c'est particulièrement intéressant : elles ont besoin d'agents qui ne se contentent pas de répéter de la psychologie populaire, mais savent raisonner dans un modèle donné et expliquer d'où vient une conclusion.

Pour l'instant, toutefois, il ne s'agit publiquement que de recherche. Sberbank n'a pas précisé comment la qualité d'un tel système sera évaluée, quels jeux de données ou cadres d'experts sont utilisés, ni dans quels produits le résultat apparaîtra. C'est une réserve importante, car la lutte contre les hallucinations est l'un des problèmes les plus ardus de toute la pile IA. Toute architecture peut améliorer la cohérence d'une réponse, mais cela ne garantit pas encore sa véracité. La question principale n'est donc pas seulement de savoir comment représenter les connaissances sur la psyché, mais aussi comment les valider, les mettre à jour et éviter de transférer au modèle les erreurs des chercheurs eux-mêmes.

Ce que cela signifie

Sberbank montre un virage intéressant : au lieu d'un énième chatbot généraliste, l'entreprise explore un domaine plus étroit mais complexe, où la structure, la cohérence et le contrôle des erreurs comptent pour l'IA. Si l'approche en graphe fonctionne, elle pourrait offrir au marché une nouvelle classe d'agents qui raisonnent sur l'humain avec nettement plus de soin que les LLM ordinaires.