Агентная разработка без Governance опасна: трёхуровневый стек на практике

Les agents AI autonomes qui planifient des tâches, écrivent et révisent du code sans supervision constante du développeur ont fait de la Gouvernance un élément obligatoire de l'infrastructure d'ingénierie — et non un complément optionnel.

En quoi un agent diffère d'un assistant conversationnel

En mode assistant conversationnel, le développeur vérifie personnellement chaque ligne : le modèle propose — l'humain décide. Un agent autonome change radicalement ce schéma : il définit lui-même ses sous-tâches, écrit l'implémentation, exécute les tests et valide le résultat, prenant des milliers de micro-décisions par heure.

Un être humain ne peut tout simplement pas toutes les vérifier. C'est de cet écart que naît le besoin de Gouvernance — un système non seulement de règles, mais de processus : qui édicte les règles, comment elles s'appliquent, qui veille à leur respect. Selon les auteurs de l'article sur Habr, c'est précisément lors de la transition du mode chat vers le mode autonome que la Gouvernance change de statut : de « ce serait bien » à « indispensable ».

Pourquoi un stack à trois niveaux est-il nécessaire ?

Les auteurs de l'article ont construit un stack de Gouvernance concret pour une plateforme de réservation de terrains sportifs utilisant NestJS (backend) et Next.js (frontend). La plateforme a été choisie délibérément : la réservation implique une logique métier stricte — créneaux, chevauchements, transactions — où l'erreur d'un agent peut être invisible mais critique.

Le stack se compose de trois niveaux :

• Niveau 1 — Base de code : les règles sont intégrées au projet via des linters, des contraintes architecturales et des conventions. L'agent ne peut pas les enfreindre sans déclencher une erreur explicite.
• Niveau 2 — Politiques de comportement de l'agent : une délimitation claire entre « l'agent agit de manière autonome » et « l'agent demande une approbation ». La frontière est définie par l'équipe à l'avance, et non à la suite d'un incident.
• Niveau 3 — Observabilité et audit : traçabilité complète des décisions. Après chaque session de travail, l'équipe voit exactement ce que l'agent a fait, pourquoi, et quelles en ont été les conséquences.

Sans le troisième niveau, les deux premiers deviennent de simples déclarations : les violations se produisent, mais restent invisibles.

Pourquoi la Gouvernance n'est pas de la bureaucratie

Une idée reçue répandue : la Gouvernance est perçue comme un frein, une couche supplémentaire de validations. En pratique, c'est le seul moyen de maintenir la vitesse sans perdre le contrôle.

«

La Gouvernance cesse d'être un outil auxiliaire et devient une exigence stricte », — indique l'article sur Habr.

Un agent autonome réduit le coût de l'écriture du code, mais augmente simultanément le coût de la supervision. Sans politiques explicites, l'équipe passe son temps à gérer les conséquences plutôt qu'à construire le produit. Sur la plateforme de réservation, le risque concret est le suivant : l'agent modifie silencieusement la logique de vérification des chevauchements de créneaux, et l'erreur n'apparaît pas dans les tests, mais dans des réservations conflictuelles d'utilisateurs réels. Le stack à trois niveaux rend un tel scénario visible avant — et non après.

Ce que cela signifie

Le développement agentique est la prochaine étape après Copilot et les assistants conversationnels, et il est déjà déployé dans de vrais projets en production. Les équipes d'ingénierie qui ne construisent pas un stack de Gouvernance maintenant seront contraintes de le faire en mode crise.

Questions fréquentes

Qu'est-ce que la

Gouvernance dans le développement avec des agents AI ?

La Gouvernance n'est pas simplement un ensemble de règles, mais un système : règles de comportement de l'agent, processus pour les adopter et outils pour surveiller leur respect. Contrairement à la « réglementation », la Gouvernance inclut les contraintes architecturales, les politiques d'autonomie et la traçabilité — le tout ensemble, et non séparément.

Pourquoi les règles dans le code ne suffisent-elles pas à elles seules ?

Les règles sans observabilité ne fonctionnent pas : un agent peut les enfreindre, et l'équipe ne l'apprendra que par les conséquences. Le troisième niveau du stack — audit et traçabilité — est tout aussi important que les deux premiers niveaux de contrainte.