L'IA en entreprise produit une documentation toxique et une nouvelle bulle

L'usage massif de l'IA dans le management et le travail d'expertise peut apporter non seulement des gains d'efficacité, mais aussi une nouvelle couche de risque systémique. Le problème : les documents d'entreprise paraissent de plus en plus convaincants, même lorsque des erreurs, des contradictions et des hallucinations de modèles s'y sont déjà accumulées.

Pourquoi c'est une bulle

La comparaison avec la crise des subprimes de 2008 repose sur une idée simple : le marché a longtemps cru à la qualité des actifs parce qu'ils étaient bien emballés et passaient formellement les contrôles. La même chose peut se produire avec les documents créés ou assemblés à l'aide de l'IA. Dirigeants, investisseurs et experts voient des règlements, rapports, politiques et descriptions de processus impeccables, et les prennent pour un reflet fiable de la réalité. Mais un ordre apparent ne prouve pas que les connaissances de départ étaient exactes, complètes et cohérentes entre elles.

Le danger grandit parce que la documentation est très visible et perçue comme l'aboutissement du travail de l'organisation. Si le texte est bien écrit, structuré et répond vite à une demande, l'utilisateur n'a presque aucune raison de douter. La confiance se déplace alors du fond vers la forme. C'est ainsi que naît une bulle managériale : on décide sur la base d'artefacts qui paraissent meilleurs que les données, l'expertise et les processus dont ils sont issus.

Comment naît la toxicité

Un document toxique n'est pas forcément mauvais ou illisible. Au contraire, il peut être logique, soigné et convaincant, tout en contenant des défauts cachés : erreurs factuelles, contradictions internes, substitution de termes, ou formulations assurées là où l'entreprise n'a aucune information confirmée.

L'IA accélère la production de tels textes de plusieurs fois. Alors que les incohérences s'accumulaient autrefois pendant des semaines, elles peuvent désormais se multiplier en un seul sprint, passant des notes aux instructions, puis aux décisions officielles.

«

Un document peut être toxique : paraître logique, mais contenir des erreurs, des contradictions et des hallucinations de l'IA. »

En pratique, la toxicité se manifeste le plus souvent non par une panne spectaculaire, mais par une chaîne de petites distorsions plausibles. Un service prend un brouillon d'IA pour base, un deuxième copie les formulations dans un règlement, un troisième les reporte dans un rapport à la direction. Ensuite, l'erreur ne ressemble plus à un défaut du modèle, mais à un fait d'entreprise confirmé.

Ces signaux sont particulièrement dangereux pour les équipes qui utilisent beaucoup l'IA dans la gestion documentaire :

• Un règlement décrit un processus, tandis qu'un document voisin exige des actions opposées.
• Un rapport affiche des chiffres précis sans source claire ni responsable des données.
• L'IA répète d'anciennes erreurs de la base de connaissances et les érige en « norme ».
• Les formulations sonnent avec assurance, alors qu'elles reposent sur de nombreuses hypothèses et conclusions non vérifiées.

Ce que les entreprises doivent vérifier

L'exigence formelle selon laquelle « les documents ne doivent pas se contredire » figure rarement comme une ligne à part, mais l'idée est depuis longtemps intégrée aux bons systèmes de management de la qualité. La logique d'ISO 9001, d'ITIL et du BPM implique que la documentation de processus soit cohérente, à jour et vérifiable. Sinon, l'organisation perd le contrôle : les employés reçoivent des consignes différentes, les audits s'appuient sur des versions divergentes de la vérité, et les dirigeants ne savent pas si l'erreur vient de l'exécution ou du papier lui-même.

Il ne suffit donc plus aux entreprises de vérifier seulement le style et l'exhaustivité d'un texte. Il faut un contrôle au niveau des liens entre documents : d'où vient chaque chiffre, quelle version fait foi, qui est responsable de la mise à jour, et si les définitions concordent d'un service à l'autre. Plus l'IA participe à la création des contenus, plus la relecture, le recoupement avec les données primaires et la recherche régulière de conflits entre documents deviennent importants, et pas seulement au sein d'un même fichier.

Ce que cela signifie

L'IA aide bel et bien à formaliser les connaissances plus vite, mais elle facilite aussi la production en masse d'erreurs convaincantes. Si les entreprises n'apprennent pas à vérifier la cohérence des documents aussi strictement que leur apparence, la documentation « intelligente » peut aisément devenir une source de fausse assurance et de mauvaises décisions.

L'enseignement principal est simple : on peut automatiser l'écriture rapidement, mais la responsabilité du sens reste du côté des humains.