« First Form » a montré comment maintenir une carte de l'entreprise pour que l'IA ne se trompe pas
« First Form » a montré pourquoi l'IA d'entreprise commence à fournir des réponses convaincantes mais incorrectes, même sans défaillances du modèle. Le…
Traité par IA depuis Habr AI ; édité par Hamidun News
« Première Forme » a décrit un problème auquel fait face presque toute IA d'entreprise : il ne suffit pas de construire une carte des données, des processus et des termes une seule fois. Si elle n'est pas mise à jour au fur et à mesure que l'entreprise évolue, le système commence à donner des réponses confiantes, mais de plus en plus fausses.
Pourquoi la carte vieillit
Dans l'article, l'entreprise montre qu'une carte de connaissance d'entreprise devient obsolète non seulement à cause de vieux règlements. Les pratiques de travail elles-mêmes changent : les employés coordonnent les tâches dans un ordre différent, déplacent une partie des discussions vers des chats, ajoutent des vérifications manuelles, créent de nouveaux contournements. Parallèlement, les sources de données changent : une partie de la réponse peut résider dans un CRM, une autre dans des tâches, des rapports, des documents ou des intégrations. Pour l'IA, cela est critique, car la bonne réponse dépend non pas d'un seul fichier, mais d'un routage à jour entre plusieurs systèmes.
Un risque distinct est le code, la configuration et le langage de l'entreprise. Les API migrent, les services se fragmentent, les champs et catégories apparaissent et disparaissent, et les abréviations familières commencent à signifier différentes choses pour différentes équipes. Dans cette situation, une carte obsolète est plus dangereuse que son absence : s'il n'y a pas de carte, le système honnêtement ne connaît pas la réponse. Si la carte est ancienne, elle continue de délivrer des réponses plausibles, et c'est précisément pour cela qu'il est plus facile d'y croire. L'erreur ici ne ressemble pas à une panne, mais à une recommandation « presque juste » qui égare l'utilisateur.
Deux boucles de contrôle
La solution de Première Forme est de maintenir la carte dans deux boucles de contrôle. La première est automatique : elle lit régulièrement l'empreinte numérique de l'entreprise et cherche des changements là où ils se sont déjà manifestés. Les instantanés de configuration de la plateforme, les questions des employés dans les tâches et les commentaires, ainsi que l'inventaire des domaines d'intérêt entrent en jeu. Le système collecte cela dans des structures normalisées, les organise par domaines comme CRM, RH ou finances, et met à jour la carte non dans son intégralité, mais par « boîtes de connaissance » séparées.
Cette approche réduit le risque que l'IA réassemble sa compréhension de l'entreprise à partir de zéro à chaque requête. Après cela, la carte ne jette pas la question directement dans une recherche sémantique générale. Pour chaque domaine d'intérêt, un navigateur est construit qui guide la requête de haut en bas : il vérifie d'abord s'il existe déjà une règle, un tableau de bord ou un document prêt, et ne passe aux scénarios plus libres que dans un second temps.
Dans l'article, ce routage est décrit comme un ensemble de cinq niveaux que le système parcourt jusqu'à la première réponse qui fonctionne :
- base normative : règlements, politiques, SLAs
- tableaux de bord et rapports prêts
- documentation avec la réponse déjà décrite
- recherche dans des données et objets spécifiques
- transmission de la question à une personne ou enregistrement d'une lacune
Ce schéma importe non seulement pour la vitesse. Il limite la dérive sémantique : si la réponse existe déjà sous forme de règle ou de rapport, l'IA ne devrait pas la rédériver par une recherche générale. La boucle automatique aide aussi à comprendre où les gens ne trouvent vraiment pas le savoir. Chez Première Forme, après analyse du flux Q&R, ils ont découvert qu'une part importante des questions récurrentes était déjà couverte par la carte, mais les employés ne voyaient simplement pas le bon point d'entrée vers le matériel nécessaire.
Où l'expertise est nécessaire
L'automatisation répond bien à la question « qu'est-ce qui a changé », mais ne comprend pas ce qui devrait être considéré comme la norme pour l'entreprise. C'est pourquoi la deuxième boucle est axée sur l'expertise. Elle est nécessaire quand il faut confirmer le bon routage vers une réponse, résoudre des termes conflictuels, distinguer une pratique stable d'un contournement temporaire, ou reconnaître honnêtement une lacune dans la carte.
Par exemple, la même requête pourrait formellement conduire tant à l'analyse CRM qu'à un rapport d'activité ou à la discussion d'une affaire spécifique, mais seul le propriétaire du processus décide de ce qui compte comme le bon point d'entrée dans l'entreprise.
«
Si une entreprise n'a pas de navigation vivante, l'IA soit ne délivre aucun bénéfice réel, soit crée une fausse sensation de fiabilité. »
Dans la deuxième boucle, chaque signal problématique devient un objet géré : avec un type de problème, un contexte d'apparition et une partie responsable de la correction. L'expert ne réécrit pas la carte manuellement, mais prend une décision ciblée au point d'incertitude—confirmer le routage, clarifier un terme, ajouter une nouvelle couche de description, ou ne rien changer.
Voilà l'essence de l'approche : l'IA ne devrait pas être un interprète autonome du chaos. Elle a besoin d'une architecture fonctionnelle où les mises à jour du bas sont complétées par une validation réfléchie du haut.
Ce que cela signifie
Pour l'entreprise, c'est un bon tournant dans la façon dont nous discutons l'IA corporative. Le problème principal n'est souvent pas quelle LLM choisir, mais à quel point la navigation à travers les données, les processus et les rôles est vivante. L'approche de Première Forme montre que l'IA utile dans une entreprise n'est pas juste un modèle et une recherche—c'est un travail continu pour maintenir la carte de connaissance. Sinon, le système sonnera confiant précisément au moment où le lui faire confiance devient dangereux.
Vous voulez cesser de lire sur l'IA et commencer à l'utiliser?
AI News est un fil d'actualité IA. Hamidun Academy vous apprend à utiliser l'IA dans votre travail.