Habr AI a expliqué pourquoi ChatGPT ne devrait pas rédiger le cahier des charges d’une entreprise pour le déploiement de l’AI

La tentation de confier à l'IA non seulement la mise en œuvre de l'IA, mais aussi la préparation d'une spécification technique semble logique : rapide, bon marché et sans longues interviews. Mais c'est précisément à cette étape que l'entreprise reçoit souvent un beau document qui est peu lié à la tâche réelle, aux processus et aux contraintes de l'équipe.

Pourquoi le modèle ne fonctionne pas

Quand un responsable ou un client demande à ChatGPT d'écrire une spécification pour la mise en œuvre de l'IA, le modèle assemble généralement un modèle universel plausible. Il contient beaucoup de mots corrects : analyse des données, sélection de modèle, sécurité, intégration, métriques de qualité. Le problème est que ce texte est construit sur la probabilité, pas sur la connaissance d'une entreprise spécifique.

Il ne sait pas comment les approbations sont structurées, où se trouvent les données, qui est responsable du support et quelles solutions ont déjà échoué au sein de l'entreprise. De ce fait, le document peut paraître mûr mais rester creux au niveau de l'exécution. Il manque souvent des priorités, des limites du projet, des critères d'acceptation et une description des exceptions.

C'est encore pire si la spécification a été rédigée par quelqu'un qui ne comprend pas complètement le domaine, et l'IA emballe simplement ces lacunes dans un style officiel. Le résultat n'est pas un document d'ingénierie mais une imitation convaincante. C'est dangereux dès le démarrage du projet.

Quels problèmes émergent

Le matériel discute de la façon dont la génération par IA est particulièrement dangereuse pour les projets de mise en œuvre de l'IA. Il y a trop de dépendances ici : qualité des données sources, restrictions légales, coûts d'infrastructure, intégration avec les systèmes internes, exigences d'explicabilité des résultats. Un texte universel lisse presque inévitablement ces angles vifs et crée l'illusion que la tâche est déjà formalisée. Cela signifie que les risques réels du projet surgissent trop tard, quand l'argent a déjà été partiellement dépensé.

• Les formulations restent trop générales et permettent des dizaines d'interprétations
• Les exigences en matière de données et leur qualité sont décrites superficiellement
• Les métriques de succès sont remplacées par des KPI abstraits sans lien avec l'entreprise
• Les délais et budgets semblent réalistes uniquement sur papier
• Comparer les entrepreneurs par une telle spécification déforme le tableau, car tous répondent à une demande vague

Cela affecte non seulement l'étape de sélection de l'entrepreneur. Si vous distribuez une spécification faible à plusieurs équipes, puis demandez à l'IA d'évaluer leurs propositions, l'erreur s'amplifie. Le système comparera les réponses avec le même modèle superficiel et récompensera ceux qui ont mieux capturé les paroles formelles, plutôt que ceux qui ont compris le problème plus profondément. En conséquence, vous pourriez sélectionner un entrepreneur avec une belle présentation et une architecture faible.

Où l'IA est utile

Cela ne signifie pas que l'IA doit être supprimée du processus de préparation des spécifications. Elle a un rôle utile, mais c'est un rôle de soutien. Le modèle peut être utilisé pour structurer les informations déjà collectées : transformer les entretiens avec le client en projets de sections, proposer une liste de questions de clarification, aider à vérifier les lacunes logiques, normaliser la terminologie.

C'est-à-dire que l'IA est utile là où vous avez besoin d'un accélérateur pour le travail éditorial et analytique, pas un substitut à l'investigation du projet. Une approche fonctionnelle ressemble à ceci : d'abord, l'équipe documente manuellement l'objectif commercial, le processus actuel, les contraintes, les données disponibles, les propriétaires de la solution et les critères de réussite. Ensuite, l'IA aide à mettre cela sous une forme compréhensible, mais ne remplace pas l'expertise des experts du domaine, des analystes et du responsable technique.

Plus l'erreur de mise en œuvre est coûteuse, plus il est dangereux de confier au modèle la formulation des exigences initiales sans examen humain. Ce n'est qu'après cela qu'il remet le texte au modèle pour révision et édition.

Qu'est-ce que cela signifie

La conclusion principale est simple : l'IA peut accélérer la préparation des spécifications, mais elle ne peut pas elle-même déterminer de manière fiable ce qui doit être mis en œuvre et comment cela fonctionnera au sein d'une organisation spécifique. Si vous utilisez le modèle comme auteur des exigences, l'entreprise risque d'acheter non une solution mais une incertitude joliment formatée. Surtout dans les projets où vous devrez ensuite modifier les processus, les budgets et les responsabilités des personnes. C'est ce qui rend de tels documents particulièrement coûteux.