AtScale : les agents IA d'analytique en entreprise ont besoin de guardrails, pas de modèles plus gros

AtScale affirme que le principal risque des agents IA d'analytique en entreprise ne tient pas à la taille du modèle, mais à la qualité du contexte dans lequel il opère. Lorsqu'un agent interroge des données éparses sans règles métier communes, il peut produire rapidement une réponse plausible, mais erronée.

Pourquoi la taille ne suffit pas

Dans les grands groupes, on espère souvent que le prochain modèle, plus gros, corrigera de lui-même les erreurs du précédent : qu'il raisonnera mieux, interprétera la requête plus finement et consolidera les chiffres avec plus de rigueur. Mais un modèle ne dispose d'aucun moyen magique de savoir quelle définition de la gross margin ou du revenue une entreprise donnée a retenue en interne. Il ne fait pas disparaître les contradictions historiques entre tableaux de bord, ne reconstitue pas l'origine des métriques et ne crée pas d'audit trail simplement parce qu'il compte davantage de paramètres.

AtScale cite également une étude de TDWI dans laquelle près de la moitié des répondants jugent leurs initiatives de gouvernance de l'IA immatures, voire très immatures. Le raisonnement est simple : si les données sources et les définitions sont chaotiques, davantage de puissance de calcul ne réduit pas l'erreur, elle la rend scalable. L'agent répond plus vite, avec plus d'assurance et sur un plus grand nombre de tâches, mais les problèmes structurels restent les mêmes. Au bout du compte, l'entreprise n'obtient pas une analytique fiable, mais une version plus convaincante du même désordre.

Où l'analytique déraille

Le risque maximal apparaît lorsque plusieurs systèmes et équipes manipulent les mêmes indicateurs, mais les comprennent différemment. Un agent puise dans l'entrepôt de données financier, un autre dans le CRM ou un outil de BI, et tous deux semblent répondre à la même question. Sans contexte partagé, l'écart cesse d'être une erreur rare pour devenir le mode de fonctionnement normal. D'où la formule lapidaire de l'article, qui résume bien le problème :

« Avec assurance. Proprement. Faux. »

Selon AtScale, les défaillances types sont ici tout à fait prévisibles. L'agent peut s'appuyer sur une source où un même indicateur est interprété autrement que chez l'équipe voisine. Il peut livrer un résultat sans expliquer clairement comment il y est parvenu. Il peut fonder sa conclusion sur des données auxquelles il n'aurait jamais dû accéder. Et lorsqu'une réponse ne peut pas être rattachée à une source of record contrôlée, l'entreprise perd la capacité de vérifier rapidement l'erreur, d'attribuer les responsabilités et de revenir sur une décision erronée sans rapprochement manuel.

Quels guardrails mettre en place

AtScale propose de considérer les guardrails non comme un frein pour l'IA, mais comme l'infrastructure qui rend l'autonomie possible. En analytique, selon l'éditeur, le modèle ne doit pas travailler directement sur des tables « brutes » et sur les règles locales de chaque équipe, mais passer par une couche sémantique commune. Cette couche ne copie pas les données et ne les modifie pas physiquement : elle fixe un sens unique aux termes métier, des règles de calcul et des périmètres d'accès pour l'ensemble des applications et des agents.

• Des définitions uniques du revenue, du churn, de la margin et des autres métriques clés
• Des contraintes sur la logique métier des calculs, quel que soit l'outil
• Une visibilité sur le lineage : d'où vient la réponse et quelles données l'ont alimentée
• Un contrôle d'accès : quels jeux de données l'agent a le droit d'interroger
• Une standardisation des métriques entre départements et plateformes

L'idée est que la performance du modèle et la responsabilité du système relèvent de deux problèmes distincts. Le modèle se charge du raisonnement ; la couche de gouvernance définit sur quoi il raisonne et comment vérifier le résultat. Si cette couche est bien construite, plusieurs agents répartis dans différents systèmes finissent par parler le même langage métier. Dans le cas contraire, chaque nouvelle intégration, chaque processus et chaque outil d'IA supplémentaire ne font qu'alourdir le coût des erreurs, des vérifications manuelles et des analyses à refaire.

Ce qu'il faut en retenir

L'IA d'entreprise bute de moins en moins sur la course aux paramètres et de plus en plus sur l'architecture des données. C'est une mauvaise nouvelle pour les entreprises qui comptaient « s'offrir un modèle plus intelligent » pour régler le problème, et une bonne pour celles qui sont prêtes à investir dans une couche sémantique, la gouvernance et la traçabilité. Ce sont ces éléments, et non la taille du modèle en soi, qui détermineront si l'on peut faire confiance à l'analytique pilotée par l'IA dans les processus métier réels.