Postman déploie Agent Mode sur Amazon Bedrock pour 40 millions de développeurs

Postman et AWS ont détaillé le fonctionnement d'Agent Mode, l'agent IA intégré à la plateforme de conception, de test et de documentation d'API. Le produit compte environ 40 millions de développeurs, et l'agent appelle les modèles via Amazon Bedrock. L'idée centrale de l'analyse : construire un agent convaincant en démo est relativement simple. Le faire fonctionner de façon stable pour une telle audience est difficile, et la difficulté tient à l'architecture qui entoure le modèle.

Les trois principes sur lesquels repose Agent Mode

Les auteurs décrivent trois patterns. Le premier : maîtriser la « prolifération des outils » (tool sprawl). Une plateforme comme Postman offre un très grand nombre d'actions : créer une collection, exécuter une requête, modifier un environnement, générer des tests, mettre à jour la documentation. Si l'on donne tout cela à l'agent sous forme de liste, les descriptions d'outils occupent une part notable du contexte. Le modèle se met alors à confondre des fonctions proches et appelle plus souvent la mauvaise. Il faut donc restreindre et structurer délibérément le jeu d'outils.

Le deuxième principe : la lecture par schémas. Au lieu de verser dans le prompt tout ce que l'on sait du projet, l'agent consulte une description structurée de l'API et n'en extrait que le morceau utile. Pour l'univers des API, c'est un choix naturel : les spécifications possèdent déjà une structure formelle, que l'on peut utiliser comme une carte du terrain.

Le troisième principe est le plus terre à terre. Le contexte est un vrai goulot d'étranglement. Ni l'intelligence du modèle ni la vitesse de génération des tokens ne sont en cause : ce qui compte, c'est ce qui entre dans la fenêtre et en quelle quantité. Pour un agent, c'est à la fois une question de précision, de latence et de coût de chaque requête.

Pourquoi Amazon Bedrock

Dans cette histoire, Bedrock joue le rôle de couche d'infrastructure. C'est un service managé d'AWS qui permet d'accéder à différents modèles de fondation via une API unique, sans monter ses propres clusters de GPU. Pour un produit qui compte des dizaines de millions d'utilisateurs, cela signifie une mise à l'échelle face aux pics de charge, les mécanismes de sécurité auxquels les clients d'entreprise sont habitués, et la possibilité de changer de modèle sans réécrire toute l'application.

Une réserve importante : la description publiée ne dit rien des modèles qu'utilise précisément Postman, des latences, du coût par requête ni de la proportion de tâches menées à bien. Sans ces chiffres, les principes d'architecture restent une déclaration de l'équipe, et non un résultat mesuré.

Ce que l'on sait de l'annonce

• Produit : Agent Mode dans Postman, un agent pour travailler avec les API.
• Audience : environ 40 millions de développeurs.
• Plateforme d'inférence : Amazon Bedrock.
• Patterns clés : limitation du jeu d'outils, lecture par schémas, gestion du contexte.
• Non divulgué : modèles utilisés, latences, coût d'une requête, métriques de qualité.

Ce qu'il faut en retenir pour votre stack

Si vous développez votre propre agent, ce matériau offre trois applications pratiques.

Premièrement : auditez vos outils. Comptez combien de tokens partent dans leurs descriptions avant même le début du travail. Si le jeu dépasse les dizaines de fonctions, découpez-le par scénarios et ne connectez que les outils pertinents pour la tâche en cours.

Deuxièmement : mettez en place pour l'agent une couche de lecture des données au-dessus de schémas formels, qu'il s'agisse d'OpenAPI, de JSON Schema ou d'un schéma de base de données. Un agent qui demande le fragment voulu d'après la structure consomme moins de contexte et hallucine moins souvent qu'un agent à qui l'on a déversé la documentation.

Troisièmement : mesurez le contexte comme vous mesurez la latence et le coût. La taille de l'entrée à chaque étape, la part de tokens utiles et le nombre de requêtes répétées sur les mêmes données renseignent mieux sur la qualité d'un agent que le subjectif « ça répond correctement ».

L'enseignement principal pour le marché : la concurrence entre agents se déplace progressivement du choix du modèle vers l'ingénierie qui l'entoure. Un modèle sur Bedrock peut être remplacé en une soirée. Un travail soigné sur les outils et le contexte, lui, ne se remplace pas aussi vite.