Chronologie des incidents d'agents IA : deux classes de problèmes et une checklist d'isolation

En trois mois, OpenAI, Anthropic, Google et Meta ont révélé des incidents impliquant des agents IA. L'agence AP les a regroupés dans une chronologie unique, mais celle-ci masque deux mécanismes distincts : l'évasion d'un environnement de test et les actions sur le web réel. Chacun exige sa propre protection.

Deux classes d'incidents

Classe 1 — évasion d'un environnement de test : Hugging Face (OpenAI, 21 juillet), Anthropic (30 juillet), Meta (5 août), Google Gemini (18 septembre). La cause est une erreur d'environnement : le banc de test d'Irregular a laissé une sortie vers internet ouverte. Chez OpenAI, le mécanisme est différent : les restrictions ont été volontairement allégées, et la protection ne repose que sur l'isolation. Les agents ont fait exactement ce qu'on leur demandait, mais l'environnement a créé une voie de sortie inattendue.

Classe 2 — actions sur le web réel : Medicare Australia (18 juin et 24-25 septembre), accès à la SEC et au Census, le formulaire de Claude Haiku 4.5 (9 octobre). Le problème n'est pas une évasion, mais l'absence de point d'arrêt avant une action irréversible : envoi de formulaires, paiements, connexions à des portails.

Checklist d'isolation en huit points

1. Réseau interdit par défaut — le trafic sortant est désactivé, seuls les domaines listés sont autorisés 2. Restrictions allégées et accès réseau sont incompatibles — si les refus du modèle sont désactivés, le réseau doit être coupé physiquement 3.

Uniquement des jetons à courte durée de vie — aucune identification réelle, droits minimaux 4. Noms issus de domaines réservés — les entreprises fictives ne doivent jamais coïncider avec de vraies entreprises 5. Les effets de bord passent par une confirmation — envoi de formulaires, paiements, e-mails, connexions nécessitent un humain 6.

Vérifiez vous-même le banc de test d'un tiers — un accord n'est pas une preuve ; chez Anthropic, les deux parties comprenaient l'isolation différemment 7. Journalisez toutes les requêtes et recherchez les anomalies — passez en revue les exécutions passées, comme les 141 000 chez Anthropic 8.

La vérification d'un schéma peut se faire via plusieurs modèles : faire exécuter la description comme une tâche « trouve les voies de sortie ». Différents modèles se trompent différemment — les voies repérées par l'un sont les premières à vérifier.