Des hallucinations aux normes GOST : pourquoi il ne faut pas confier un chantier à ChatGPT

Imaginez que vous construisiez une maison en suivant les conseils de la personne la plus lettrée du monde, qui souffre pourtant d'une forme légère d'amnésie et a tendance à affabuler. C'est la situation d'Aleksei Krivonosov, propriétaire d'une entreprise de construction, qui a décidé de déléguer les tâches routinières à ChatGPT. Au début, tout s'est parfaitement passé. Le modèle rédigeait avec entrain des scénarios pour la chaîne YouTube de l'entreprise, établissait des plans de contenu et peaufinait des rapports techniques. C'est un piège classique : quand l'IA excelle dans les tâches créatives, on s'imagine qu'elle est tout aussi bonne dans les sciences exactes. Mais le diable, comme souvent, se cachait dans les normes et règlements de construction.

Le problème est apparu lorsqu'on a confié à ChatGPT la documentation normative : les SP et les normes GOST. Pour ceux qui sont loin du BTP : ce ne sont pas de simples livres ennuyeux, mais un règlement rigide où chaque chiffre se paie de la sécurité de quelqu'un. Le modèle s'est mis à se comporter comme un étudiant peu sérieux à l'examen : s'il ne connaissait pas la réponse exacte, il l'inventait.

Et avec une telle assurance que la supercherie est passée inaperçue un temps. L'algorithme générait des articles de normes inexistants et fournissait des chiffres qui n'avaient jamais figuré dans les documents officiels. Dans un secteur où une erreur de calcul de charge sur une poutre peut mener à la catastrophe, une telle « créativité » est inadmissible.

Pourquoi cela arrive-t-il ? ChatGPT est un modèle de langage entraîné à prédire le mot suivant, pas à vérifier des faits dans une base de données. Il travaille avec des probabilités, pas avec la vérité. Quand on lui demande de retrouver un article précis d'une norme GOST, il ne « va pas à la bibliothèque » : il construit une réponse qui sonne le plus plausible possible. Voilà la perfidie des hallucinations : elles ressemblent à la vérité. En marketing, ce n'est pas critique ; en ingénierie, c'est une condamnation. Aleksei a compris qu'utiliser un LLM « nu » dans un cadre professionnel revient à jouer à la roulette russe avec un revolver chargé.

Plutôt que de se détourner de la technologie, l'équipe d'Aleksei a choisi de créer un outil spécialisé. En six mois, elle a développé « Digital Standard » (« Standard numérique »). Sa principale différence avec un chatbot ordinaire : l'usage du RAG (Retrieval-Augmented Generation). Le principe est simple : on interdit au modèle de « se souvenir » d'informations tirées de sa mémoire. À la place, on force le système à chercher la réponse dans une base de données vectorisée, strictement limitée, de normes de construction réelles. Si l'information n'y figure pas, le système le dit au lieu de se lancer dans la fiction. L'IA passe ainsi de conteur à bibliothécaire ultra-rapide.

Le cas Krivonosov met en lumière un important basculement tectonique du secteur. L'époque de la fascination pour les modèles universels touche à sa fin. Les entreprises commencent à comprendre que les tâches réelles exigent des solutions verticales. Il ne suffit pas de « brancher l'API d'OpenAI ». Il faut traiter les données à la main, les débarrasser de leurs scories et poser des filtres stricts en sortie. C'est à cette condition seulement qu'un réseau de neurones passe du jouet à l'outil de travail. Aujourd'hui, on voit apparaître des systèmes de ce type dans le droit, la médecine et désormais la construction. C'est une étape logique de la maturation de la technologie.

Que signifie cela pour le marché ? D'abord, la demande de « prompt engineers » recule au profit de celle d'architectes de données capables de faire travailler les LLM avec les connaissances de l'entreprise. Ensuite, la confiance envers les modèles ouverts dans les secteurs critiques ne fera que baisser. Nous entrons dans l'ère de l'« IA de confiance », où la précision prime sur l'éloquence. L'expérience d'Aleksei le montre : pour que l'IA soit utile, il faut d'abord lui retirer le droit à la créativité là où règnent les chiffres et les lois.

À retenir : les réseaux de neurones généralistes comme ChatGPT ont atteint un plafond dans les tâches professionnelles. L'avenir appartient aux systèmes RAG et aux bases de connaissances très spécialisées. Seriez-vous prêt à confier le calcul des fondations de votre maison à un algorithme incapable de distinguer la vérité de la probabilité ?