Live 18/11 · Cohorte 318 nov à 19h00 MSK — atelier pratique gratuit sur les agents IA · La Cohorte 3 démarre le 23/11Atelier 18/11 →Cohorte 3 (23/11)
SortieArticle R&D · Pour R&DHabr AI→ original

Après une panne, les agents n'annulent leur travail que dans 47% des cas, alors qu'ils résolvent 84% des tâches

L'agent a corrigé le code, lancé les tests, modifié au passage un timeout dans la config et envoyé des notifications. Or git revert ne restaure que les fichiers. Dans le benchmark UndoBench, les agents résolvaient 84% des tâches, mais après une panne, ils ne se rétablissaient que dans 47% des exécutions normalement réussies. Cinq exposés convergent : le snapshot d'état et les interdictions doivent vivre dans le code du harnais, pas dans le prompt. Sinon, un agent « réussi » laisse derrière lui une panne.

Traité par IA depuis Habr AI ; édité par Hamidun News
Après une panne, les agents n'annulent leur travail que dans 47% des cas, alors qu'ils résolvent 84% des tâches
Source : Habr AI. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireHabr AI ↗
Rédacteur en chef
EvoUndosur 600 améliorations de l'agent, le rollback s'est cassé dans 197 cas ; un langage de rollback étendu en a rétabli 180
Harveyun seul bug a lancé environ 900 agents en 4 heures, pour une norme de 50 tâches par jour
Claude Codel'auto mode bloque 89% des commandes dangereuses, contre environ 14% repérées par les humains

L'agent a corrigé le code, lancé les tests, obtenu un build au vert et posé un tag de release. Puis l'intégration échoue, et l'on découvre qu'il a aussi modifié un timeout dans la config, appelé une API externe et envoyé des notifications. La commande git revert restaure les fichiers du dépôt, mais ni les paramètres de l'environnement ni les e-mails déjà partis.

Les auteurs d'UndoBench, un jeu de tests sur la réversibilité des actions d'un agent, ont mesuré ce trou : en exécution normale, les agents menaient à bien 84% des tâches, mais lorsqu'on injectait une panne artificielle, ils ne se rétablissaient que dans 47% des exécutions normalement réussies. Les dénominateurs de ces chiffres diffèrent, et les auteurs le signalent honnêtement, mais l'écart reste révélateur. L'auteur de l'analyse publiée sur Habr a étudié cinq exposés présentés lors de conférences IA récentes.

La conclusion pratique pour un développeur : il faut concevoir la capacité de rollback autour du modèle, et non espérer qu'il annule lui-même son travail.

UndoBench et EvoUndo : l'agent a résolu la tâche, mais ne sait pas l'annuler

UndoBench a été testé sur 2880 essais appariés : une exécution normale face à une exécution avec panne. Git ne suit que les fichiers du dépôt, alors que les agents de code modifient les configs d'environnement, activent des middlewares, mettent à jour les registres d'outils et appellent des services externes, comme le déploiement ou les bases de données. L'annulation d'un commit ne touche pas à ces effets.

Le projet suivant des mêmes auteurs, EvoUndo, dresse un tableau plus sombre encore. Sur 600 tâches d'auto-évolution, les agents ont amélioré leurs performances dans 478 cas, mais dans 197 d'entre eux (environ 42%), la restauration s'est cassée : l'agent devenait plus intelligent et perdait sa réversibilité. Demander au modèle de réparer le rollback dans le prompt s'est révélé inutile : quatre stratégies de réparation avec vérificateur n'ont rétabli aucune des 197 modifications (zéro sur 197).

Deux leviers ont fonctionné. Le premier est l'ancrage à l'état : pour remettre un timeout de 60 à 30, il faut connaître l'ancienne valeur. Quand l'agent a reçu ces données, la restauration est passée de zéro à 38 cas sur 48.

Le second est un langage de rollback plus riche : dans une expérience isolée, la restauration est passée de zéro à 142 cas sur 143, et sur l'ensemble du jeu, 180 des 197 modifications ont été rétablies (environ 92%). Le nombre d'améliorations admissibles est monté à 461 sur 600, contre 281 auparavant. Le principe : avant la modification, on sauvegarde un snapshot de l'état initial ; dans un environnement de test, l'agent applique le changement et exécute aussitôt le plan de rollback ; un vérificateur indépendant compare le résultat au snapshot.

La modification n'est acceptée que si la qualité a progressé et que les valeurs sont bien revenues. Si le rollback est impossible, l'agent s'arrête et appelle un humain.

Timeout, sous-agents et quotas : Microsoft et Harvey

Un principal engineer de Microsoft, auteur du pont MCP open source Pacemaker (il précise s'exprimer à titre personnel), rappelle qu'un timeout signifie seulement que la réponse n'est pas arrivée, pas que l'opération a échoué. Dans UndoBench, l'agent demande au tracker de créer un ticket, le serveur crée le ticket 781, mais la confirmation se perd et l'agent relance la requête à l'aveugle. En cas de réponse perdue, ces relances naïves ont produit des doublons dans 54% des essais.

Deuxième problème : les sous-agents. En cas de panne partielle, ils produisent un texte tout aussi fluide et assuré qu'après une vérification complète, et l'orchestrateur voit le résultat sans voir la quantité de travail qui le sous-tend. L'auteur a réuni ses règles dans un schéma SAFE, sans prétendre en faire un standard universel : les faits ont une source et une date de péremption ; une écriture externe n'a lieu qu'une seule fois, avec une autorisation à usage unique vérifiée par le code de la passerelle ; les démarrages parallèles sont limités ; le sous-agent renvoie un statut explicite accompagné de preuves, et un script revérifie le rapport.

SAFE n'effectue pas lui-même de rollback : pour annuler des opérations externes, il faut des étapes de compensation selon le pattern Saga.

Harvey a montré le coût de l'absence de quotas. En août, un bug a généré une alerte pour chaque espace de travail, et au lieu des 50 tâches quotidiennes habituelles, environ 900 agents ont été lancés en quatre heures. En octobre, un ingénieur a mis en file environ 950 tâches en trois heures et a de nouveau saturé la file. Les alertes répétées sont désormais rattachées à l'enquête déjà ouverte, les lancements passent par une file d'attente équitable qui donne la priorité aux humains, et une règle d'automatisation se désactive après cinq échecs consécutifs. Sur un test de 300 tâches, le démarrage est passé, selon l'intervenant, de près de deux secondes à 70 millisecondes.

Interdictions dans le code et échelle d'autonomie : Anthropic et Meta

Lydia, de l'équipe Claude Code, a expliqué que le nombre de modifications est passé de 2500 par jour en mai à plus de 30 000 en septembre. Depuis août, l'auto mode est activé par défaut : il bloque 89% des commandes manifestement dangereuses, alors que les humains en repéraient environ 14%. Mais environ une commande dangereuse sur dix passe quand même, c'est pourquoi les garanties viennent du harnais, pas du prompt.

L'irréversible, comme la lecture du .env ou la suppression de modifications non commitées, est couvert par des deny rules et un sandbox au niveau de l'OS : une règle d'autorisation ne vérifie que le nom de la commande, pas ce que le processus ira toucher à l'intérieur. Il existe aussi un piège : avec un exit code 1, Claude Code marque la tâche comme terminée, et pour ramener l'agent vers la correction, le hook doit renvoyer un exit code 2.

L'équipe d'incidents de Meta (selon son estimation, environ trois quarts du nouveau code y sont écrits avec l'IA) a placé un AI-coéquipier unique en astreinte, avec une échelle d'autonomie semblable à celle d'un nouvel ingénieur. Dans un premier temps, il se contente d'enquêter ; ensuite, il rédige des patchs que valide un humain ; enfin seulement, il ferme lui-même les alertes bruyantes et les doublons via la CI. Dans l'exemple d'un récapitulatif matinal de 23 éléments, l'agent en a fermé 18 seul, en a suivi 2 et en a transmis 3 à un humain.

Que faire en pratique

Capturez l'état avant toute mutation hors de Git. Exigez des sous-agents un statut explicite et vérifiez l'état externe avant de relancer une requête. Déplacez les interdictions irréversibles dans des deny rules et un sandbox. Fixez des limites sur les lancements parallèles et une désactivation automatique des automatisations. Accordez l'autonomie par type d'action : tenez compte du coût d'une erreur et de l'historique de réussites.

Dossier

Questions clés sur cet article

Que sait-on sur UndoBench et EvoUndo : l'agent a résolu la tâche, mais ne sait pas l'annuler ?

UndoBench a été testé sur 2880 essais appariés : une exécution normale face à une exécution avec panne. Git ne suit que les fichiers du dépôt, alors que les agents de code modifient les configs d'environnement, activent des middlewares, mettent à jour les registres d'outils et appellent des services externes, comme le déploiement ou les bases de données. L'annulation d'un commit ne touche pas à ces effets. Le projet suivant des mêmes auteurs, EvoUndo, dresse un tableau plus sombre encore.

Que sait-on sur Timeout, sous-agents et quotas : Microsoft et Harvey ?

Un principal engineer de Microsoft, auteur du pont MCP open source Pacemaker (il précise s'exprimer à titre personnel), rappelle qu'un timeout signifie seulement que la réponse n'est pas arrivée, pas que l'opération a échoué. Dans UndoBench, l'agent demande au tracker de créer un ticket, le serveur crée le ticket 781, mais la confirmation se perd et l'agent relance la requête à l'aveugle. En cas de réponse perdue, ces relances naïves ont produit des doublons dans 54% des essais.

Que sait-on sur Interdictions dans le code et échelle d'autonomie : Anthropic et Meta ?

Lydia, de l'équipe Claude Code, a expliqué que le nombre de modifications est passé de 2500 par jour en mai à plus de 30 000 en septembre. Depuis août, l'auto mode est activé par défaut : il bloque 89% des commandes manifestement dangereuses, alors que les humains en repéraient environ 14%. Mais environ une commande dangereuse sur dix passe quand même, c'est pourquoi les garanties viennent du harnais, pas du prompt.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Hands-On AI Engineering · Hamidun Academy

Build & Ship Production AI Agents Without Boilerplate Code

Start your free 72-hour trial at Hamidun Academy (academy.hamidun.com) — interactive lessons on Claude Code & Cursor, live Tech Radar, and production agent templates.

Start 72h Free Trial →Vibe-Coding Intensive
Qu'en pensez-vous ?
Chargement des commentaires…