Un auteur de Habr met en garde : l'usage irréfléchi de l'IA conduit à la dégradation des compétences des spécialistes

Un auteur de Habr s'est penché sur les conséquences possibles d'un usage irréfléchi de l'IA. Selon lui, dans leur course au profit, les détenteurs de grands modèles de langage risquent de détruire non seulement la qualité des textes, mais aussi la qualification humaine.

Pourquoi un texte généré ne remplace pas l'expertise

Selon l'auteur, les transformers génératifs n'inventent rien : ils se contentent d'exploiter de grands modèles de langage pour générer, c'est-à-dire combiner, des textes vraisemblables. Ceux qui utilisent des textes générés sans analyse critique suffisante perdent malgré eux leur qualification, à supposer qu'ils en aient eu une. Quant à ceux qui n'ont jamais été des spécialistes qualifiés, ils cèdent à l'euphorie et s'imaginent pouvoir désormais résoudre des problèmes sans disposer des connaissances nécessaires.

« Cela fonctionnera tant que des gens réellement compétents resteront aux commandes du développement.

Mais lorsqu'ils seront remplacés par des personnes qui maîtrisent l'interaction avec l'IA sans avoir la qualification nécessaire pour évaluer lucidement les résultats obtenus grâce à elle, alors ce sera la catastrophe », avertit l'auteur.

Ce qui change d'une version à l'autre des modèles

L'auteur observe que, d'une version à l'autre, les modèles intègrent des mécanismes déterministes cachés — ce que l'on décrit souvent par l'expression « le modèle réfléchit » — censés améliorer la pertinence des réponses. Mais dans le même temps, les réponses des modèles intègrent une part toujours plus grande de facteur humain, et les biais humains peuvent laisser leur empreinte sur le résultat final. Pour la promotion commerciale du produit, note l'auteur avec ironie, c'est sans aucun doute une bonne chose.

Autre problème : les sources de données sur lesquelles les modèles sont entraînés. Rien ne garantit leur fiabilité. Pour la génération de code, la situation est un peu meilleure selon l'auteur, mais là encore l'IA n'invente fondamentalement rien de nouveau. Au mieux, si l'on entraîne les modèles sur les générations jugées les plus réussies, on peut obtenir une certaine amélioration des résultats finaux — ou, à l'inverse, leur dégénérescence.

Qui est exposé au risque

L'idée centrale de l'auteur : le danger ne vient pas des grands modèles de langage eux-mêmes, mais de l'usage qu'en fait une personne sans la qualification requise. Tant que les décisions en entreprise sont prises par des personnes dotées d'une réelle expertise, capables d'évaluer de manière critique le travail de l'IA, le problème reste maîtrisable. Le risque s'accroît lorsque ces personnes, aux postes de direction, commencent à être remplacées par des spécialistes qui savent seulement interagir avec l'IA, sans être capables d'évaluer lucidement la qualité du résultat obtenu.

En somme, il s'agit d'un changement de génération au sein du métier : une génération a encore appris à résoudre des problèmes avec ses mains et sa tête, la suivante risque de n'apprendre qu'à formuler des requêtes à un modèle.

Que faire concrètement face à ce risque

Le raisonnement de l'auteur débouche sur une conclusion pratique : le résultat produit par l'IA doit être traité comme un brouillon, et non comme une réponse définitive, et vérifié par une personne capable d'en évaluer le contenu sur le fond, et pas seulement sur la forme. Cela vaut pour les textes comme pour le code : dans les deux cas, le modèle combine ce qu'il a déjà vu au lieu de créer un savoir fondamentalement nouveau, et la responsabilité de la qualité du résultat final incombe à la personne qui l'utilise.

Ce que cela signifie

L'auteur appelle à ne pas confondre la maîtrise de l'IA avec la qualification professionnelle : l'outil combine des textes vraisemblables, mais ne remplace pas la capacité à vérifier le résultat de manière critique. Tant que des personnes compétentes restent à la barre, le risque est maîtrisable — mais il grandit à mesure qu'elles cèdent la place à ceux qui n'ont appris qu'à travailler avec l'IA.