Amazon Bedrock Guardrails lance une nouvelle API pour protéger de façon souple les applications d'IA agentique

Amazon Web Services a lancé une nouvelle API pour la plateforme Amazon Bedrock Guardrails, InvokeGuardrailChecks. Elle permet d'intégrer des contrôles de sécurité individuels dans des applications d'IA agentique à n'importe quel endroit du flux de travail, sans avoir à créer de ressources guardrail à l'avance.

Ce que change la nouvelle API

Jusqu'ici, l'utilisation d'Amazon Bedrock Guardrails exigeait une configuration préalable : le développeur créait une ressource guardrail dans la console, la rattachait à un modèle ou à un endpoint, et ne pouvait utiliser les mécanismes de protection qu'ensuite. L'approche était donc centralisée : un guardrail pour toute l'application ou pour un grand bloc.

InvokeGuardrailChecks change cette logique. Il est désormais possible d'appeler un contrôle de sécurité précis directement depuis le code, à n'importe quel endroit du pipeline. Une vérification de fuite de données personnelles à un endroit, le filtrage de contenu indésirable à un autre, la vérification de fiabilité à un troisième. Chaque appel est indépendant et ne nécessite pas de ressource guardrail existante.

Pourquoi c'est important pour les systèmes agentiques

Les systèmes d'IA agentique actuels fonctionnent de façon radicalement différente d'un simple échange requête-réponse. Une seule requête d'utilisateur peut déclencher une chaîne de dizaines d'étapes : recherche dans une base de connaissances, appels à des API externes, génération de résultats intermédiaires, prise de décisions à partir des données obtenues. Du contenu problématique ou un comportement indésirable peut surgir à chacun de ces nœuds. Les guardrails traditionnels, configurés uniquement à l'entrée et à la sortie du système, ne voient tout simplement pas ce qui se passe à l'intérieur d'un processus multi-étapes.

InvokeGuardrailChecks comble cette lacune : le développeur choisit où un contrôle est nécessaire et l'intègre comme un appel d'API ordinaire.

L'API prend en charge les types de contrôles suivants :

• Détection et masquage des PII (données personnelles)
• Filtrage de contenu par catégories configurables
• Blocage de sujets interdits (topic denial)
• Vérification de la fiabilité des réponses par rapport aux sources (grounding)
• Détection des tentatives de prompt injection

Usages en entreprise

La nouvelle API est particulièrement pertinente pour les applications d'entreprise où un agent manipule des données sensibles ou accède à des systèmes internes.

Dans les bots RH, il faut s'assurer que l'agent ne révèle pas les données personnelles d'un employé à un autre, même si elles sont apparues dans une sortie intermédiaire du LLM. InvokeGuardrailChecks permet d'ajouter le contrôle des PII précisément au moment où l'agent compose sa réponse.

Dans les applications financières, un contrôle de grounding s'insère avant la sortie finale, afin que l'agent s'appuie sur des sources réelles plutôt que de générer des données peu fiables.

Dans les systèmes multi-agents, un contrôle de prompt injection s'ajoute à l'étape de réception des données d'un agent externe.

«

Avec cette API, les développeurs peuvent appliquer des contrôles de sécurité individuels à n'importe quel point des applications d'IA agentique, sans avoir à créer de ressources guardrail », indique l'AWS Machine Learning Blog.

Ce que cela signifie

Amazon bâtit méthodiquement une infrastructure d'entreprise pour le déploiement sécurisé des agents d'IA. InvokeGuardrailChecks prolonge logiquement cette stratégie : au lieu d'une unique barrière centralisée, l'entreprise propose un ensemble d'outils ciblés que les développeurs placent là où le contrôle est réellement nécessaire.

Pour les secteurs soumis à des exigences strictes de conformité, comme la finance, la santé et le droit, c'est un pas sérieux vers un usage concret de l'IA agentique sans perdre la maîtrise du comportement du système.