Développement agentique sans gouvernance : un danger. Retour d'expérience sur une pile à trois niveaux

Les agents IA autonomes, qui planifient eux-mêmes les tâches, écrivent et relisent du code sans supervision constante du développeur, ont fait de la gouvernance un élément obligatoire de l'infrastructure d'ingénierie, et non plus une surcouche optionnelle.

En quoi un agent diffère d'un assistant conversationnel

Avec un assistant conversationnel, le développeur vérifie lui-même chaque ligne : le modèle propose, l'humain décide. L'agent autonome rompt radicalement avec ce schéma. Il définit lui-même les sous-tâches, écrit l'implémentation, lance les tests et consigne le résultat, en prenant des milliers de micro-décisions par heure.

Physiquement, l'humain n'a pas le temps de toutes les vérifier. De cet écart naît le besoin de gouvernance : un système qui ne se limite pas à des règles, mais qui couvre aussi les processus — qui adopte les règles, comment elles sont appliquées, qui veille à leur respect. Selon les auteurs de l'article publié sur Habr, c'est précisément au passage du mode chat au mode autonome que la gouvernance change de statut : de « ce serait bien » à « indispensable ».

Pourquoi une pile à trois niveaux ?

Les auteurs ont construit une pile de gouvernance concrète pour une plateforme de réservation de terrains de sport reposant sur NestJS (backend) et Next.js (frontend). Le choix de la plateforme n'a rien d'anodin : la réservation implique une logique métier rigide — créneaux, chevauchements, transactions — où une erreur de l'agent peut passer inaperçue tout en étant critique.

La pile comprend trois niveaux :

• Niveau 1 — la base de code : les règles sont intégrées au projet via des linters, des contraintes d'architecture et des conventions. L'agent ne peut pas les enfreindre sans déclencher une erreur explicite.
• Niveau 2 — les politiques de comportement de l'agent : une séparation nette entre « l'agent agit de manière autonome » et « l'agent demande une approbation ». La frontière est fixée à l'avance par l'équipe, et non après coup, à la suite d'un incident.
• Niveau 3 — l'observabilité et l'audit : une traçabilité complète des décisions. Après chaque session de travail, l'équipe voit ce que l'agent a fait, pourquoi, et quelles en ont été les conséquences.

Sans le troisième niveau, les deux premiers se réduisent à des déclarations d'intention : les violations se produisent, mais restent invisibles.

Pourquoi la gouvernance n'est pas de la bureaucratie ?

Une idée reçue veut que la gouvernance soit un frein, une couche superflue de validations. En pratique, c'est le seul moyen de conserver la vitesse sans perdre le contrôle.

«

La gouvernance cesse d'être un outil auxiliaire et devient une exigence stricte », indique le texte publié sur Habr.

L'agent autonome réduit le coût d'écriture du code, mais il fait en même temps grimper le coût de la supervision. Faute de politiques explicites, l'équipe passe son temps à analyser les conséquences au lieu de construire le produit. Sur la plateforme de réservation, le risque est précis : l'agent modifie discrètement la logique de contrôle des chevauchements de créneaux, et l'erreur se manifeste non pas dans les tests, mais par des réservations en conflit pour de vrais utilisateurs. La pile à trois niveaux rend ce scénario visible avant, et non après coup.

Ce que cela signifie

Le développement agentique est l'étape qui suit Copilot et les assistants conversationnels, et il se déploie déjà dans des projets de production réels. Les équipes d'ingénierie qui ne mettront pas en place une pile de gouvernance dès maintenant devront s'y atteler en situation de crise.

Questions fréquentes

Qu'est-ce que la gouvernance dans le développement avec des agents IA ?

La gouvernance n'est pas un simple ensemble de règles, c'est un système : règles de comportement de l'agent, processus pour les adopter et outils pour contrôler leur respect. Contrairement à la « réglementation », la gouvernance englobe les contraintes d'architecture, les politiques d'autonomie et la traçabilité — le tout ensemble, et non séparément.

Pourquoi des règles dans le code ne suffisent-elles pas ?

Sans observabilité, les règles ne fonctionnent pas : l'agent peut les enfreindre, et l'équipe ne l'apprend que par leurs conséquences. Le troisième niveau de la pile — audit et traçabilité — est tout aussi important que les deux premiers niveaux, qui sont restrictifs.