Habr AI a décrit l’architecture d’un agent réflexif : moins de pilotage automatique, plus d’autovérification

Habr AI a publié une analyse de l'architecture d'un agent IA réfléchissant — un système dans lequel le modèle n'invoque pas simplement des outils, mais passe par un cycle obligatoire de vérification avant chaque action importante. L'idée principale est simple : dans les tâches où le coût de l'erreur est élevé, il est plus utile pour un agent d'être non le plus rapide, mais le plus prévisible.

Pourquoi la vitesse seule ne suffit pas

Un agent typique fonctionne selon le schéma penser → agir : il comprend rapidement la tâche, accède immédiatement aux fichiers, CRM, courrier électronique ou terminal. Dans une démonstration, cela semble impressionnant, mais dans un environnement réel, ce mode bute rapidement sur des défaillances système. Une hallucination se transforme en action, une imprécision entraîne une cascade d'erreurs, et un objectif mal compris force le modèle à ignorer les effets secondaires. Au final, le système semble confiant jusqu'au premier contact avec des données incomplètes, bruitées ou contradictoires.

L'auteur de l'article propose de voir le problème non comme un déficit d'« intelligence » du modèle, mais comme un déficit d'architecture. Même un LLM puissant fait des erreurs s'il n'a pas de pause intégrée pour re-vérification, de limites claires d'accès et de mécanisme de restauration. Par conséquent, nous parlons non pas d'un nouveau prompt, mais d'une nouvelle boucle d'exécution qui force obligatoirement la réflexion entre perception, décision et action. C'est précisément pour cela que la vitesse seule n'est plus considérée comme un avantage suffisant.

Comment fonctionne le cycle

Au lieu d'un lien direct « compris — fait », Habr AI décrit un cycle à sept étapes dans lequel l'agent à chaque itération recueille un contexte frais, construit un plan, forme un brouillon d'action, se vérifie lui-même et seulement alors valide. Si les données sont insuffisantes, il peut s'arrêter, poser une question clarificatrice ou attendre une réponse humaine sans perdre l'état de la session. Cette approche rend le mode agent plus proche non d'un pilote automatique, mais d'un assistant prudent qui sait comment mettre une tâche en pause.

Plusieurs nœuds clés se distinguent dans l'architecture :

• Contexte dynamique — avant chaque étape, l'agent recueille à nouveau les objets disponibles, les outils, les contraintes et l'historique de la session.
• Brouillons de modifications — toute édition vit d'abord dans une couche temporaire, ne va pas directement en production.
• Phase de réflexion — avant la finalisation, l'agent doit vérifier qu'il n'a pas manqué d'étapes, violé le format ou s'il y a des contradictions.
• Portail de confirmation — les opérations risquées s'arrêtent jusqu'à accord explicite humain.
• Validation et restauration — après approbation, les modifications sont appliquées de manière atomique, et en cas d'échec, l'état peut être restauré à partir d'une snapshot.

Séparément important est l'idée d'un protocole universal d'outils. À travers une seule interface, un tel agent peut être connecté à un système de fichiers, terminal, bases de données, CRM, navigateurs, services de paiement ou matériels de référence spécifiques à l'industrie. La logique ne change pas : d'abord recueillir le contexte, puis planifier, puis vérifier, et seulement ensuite agir. Grâce à cela, le même schéma se transfère du développement au droit, à la médecine, à l'analyse et au support sans recompilation complète du noyau.

Où se trouvent les mécanismes de sécurité

Dans l'article, la sécurité est positionnée non dans un « filtre en sortie », mais à l'intérieur du cycle d'exécution lui-même. Toutes les actions sont divisées par niveau de risque : les lectures sûres passent automatiquement, les modifications créent des brouillons, et les opérations destructrices exigent une confirmation séparée. C'est important pour les publications, les envois massifs, la suppression de données, les transactions financières et toute étape qui ne peut pas simplement être annulée avec un bouton retour.

L'humain dans tel schéma reste non un observateur, mais un détenteur du droit de veto final.

Au-dessus de cette couche, les mécanismes de protection techniques opèrent : Scope Jail ne vous permet pas d'aller au-delà des ressources autorisées, un détecteur de boucle arrête les actions répétitives, les limites d'itération et de tokens coupent les scénarios d'emballement, et les snapshots permettent de restaurer une session à son état antérieur. Même si le modèle suggère un mouvement dangereux, la décision finale reste non avec le texte, mais avec la couche d'exécution, qui vérifie chaque appel d'outil. Cela réduit le coût de l'erreur et rend la boucle d'agent plus appropriée à la production.

« L'agent le plus intelligent n'est pas celui qui fait tout seul »

Ce schéma s'adapte bien aux domaines où l'erreur coûte cher : droit, médecine, finance, support, marketing, infrastructure. Partout persiste le même schéma : d'abord l'hypothèse, puis la vérification contre les règles, ensuite l'action dans les limites. Un agent peut préparer une sortie, une réponse brouillon, un plan de travail ou un ensemble d'éditions, mais l'étape finale reste toujours consciente et vérifiable.

C'est précisément ce qui distingue un assistant d'un exécuteur inconditionnel.

Ce que cela signifie

L'architecture d'un agent réfléchissant est une tentative de traduire l'IA du mode démonstration-impressionnant au mode outil-fonctionnel. Pour le marché, c'est un signal important : les gagnants ne seront pas seulement les modèles les plus « intelligents », mais aussi les systèmes où il y a une pause pour auto-vérification, un journal transparent des actions, une restauration et humain-dans-la-boucle. Précisément de tels agents ont une chance de fonctionner normalement en production, et non seulement impressionner avec la vitesse lors de présentations.

Ce n'est plus de la magie dans l'interface, mais une approche d'ingénierie de l'autonomie.