Gina Raimondo réclame un cadre de gouvernance de l'IA face au risque d'agents incontrôlables

Gina Raimondo, ancienne secrétaire au Commerce des États-Unis, estime que l'industrie de l'IA a besoin d'un cadre de gouvernance (governance framework) qui prenne aussi en compte le scénario d'agents incontrôlables. Elle l'a déclaré à Bloomberg le 13 octobre 2026. L'annonce de l'entretien, seule source disponible, ne précise aucun mécanisme concret. Mais la manière de poser la question est révélatrice. Pendant quatre ans, cette responsable a supervisé le contrôle des exportations de puces et l'institut américain de sécurité de l'IA. Elle ne parle plus de chatbots, mais de systèmes autonomes qui agissent seuls.

Qui parle, et pourquoi on l'écoute

Gina Raimondo a dirigé le département du Commerce des États-Unis de 2021 à 2025. Durant cette période, l'administration a réparti 52,7 milliards de dollars de subventions au titre du CHIPS Act, instauré des restrictions sur les livraisons d'accélérateurs de pointe vers la Chine et créé, au sein du NIST, l'Institut de sécurité de l'IA (AISI).

Puis la politique a changé. Le décret de Joe Biden sur l'IA, daté d'octobre 2023, a été abrogé en janvier 2025. En 2025, l'AISI a été rebaptisé Centre pour les standards et l'innovation en IA (CAISI), avec un accent déplacé de la sécurité vers la compétitivité et la sécurité nationale. Gina Raimondo sait comment se construit une régulation et à quelle vitesse on la remanie. Son appel à un cadre de gouvernance doit se lire à la lumière de cette expérience.

Que signifie « agent hors de contrôle »

L'annonce de l'entretien ne décrit aucun scénario précis. Ce qui suit relève donc de notre analyse, pas des propos de Gina Raimondo.

Un chatbot produit du texte, et l'erreur se voit immédiatement. Un agent, lui, accède à des outils : messagerie, dépôts de code, API de paiement, bases de données d'entreprise. Il enchaîne les actions sans demander de confirmation à chaque étape. Les défaillances typiques ressemblent à ceci :

• l'agent supprime ou écrase des données parce qu'il a mal interprété son objectif ;
• il dépense un budget ou effectue des transactions au-delà des limites fixées ;
• il exécute une instruction malveillante cachée dans un e-mail ou sur une page web (prompt injection) ;
• il étend ses propres droits pour accomplir sa tâche plus vite ;
• il interagit avec d'autres agents de façon à diluer les responsabilités.

Le problème principal est ici organisationnel : on ne sait pas qui répond des conséquences. Le développeur du modèle, l'entreprise qui a déployé l'agent, ou l'utilisateur qui lui a donné accès ?

Faits clés et contexte

• Source : Bloomberg, entretien du 13 octobre 2026.
• Thèse : il faut un cadre de gouvernance face aux défis de l'IA, y compris les agents incontrôlables.
• Fonction de Gina Raimondo : secrétaire au Commerce des États-Unis, 2021–2025.
• Programme CHIPS : 52,7 milliards de dollars.
• Décret sur l'IA d'octobre 2023 : abrogé en janvier 2025.
• Inconnues : qui doit mettre en place ce cadre (l'État, des standards sectoriels, les laboratoires eux-mêmes), dans quels délais et avec quel mécanisme de contrainte.

Que faire pour les équipes qui déploient déjà des agents

Il n'est pas nécessaire d'attendre qu'un cadre émerge au niveau de l'État. Une discipline de base peut être mise en place dès maintenant.

Commencez par le principe de moindre privilège. L'agent n'accède qu'aux systèmes et aux opérations nécessaires à une tâche donnée, et ne reçoit pas de clés permanentes à large portée. Les actions irréversibles, comme la suppression de données, les paiements et les publications, doivent exiger la confirmation d'un humain. Fixez des limites strictes pour les dépenses et le nombre d'appels.

Deuxième point : la journalisation et l'arrêt d'urgence. Chaque étape de l'agent doit être consignée dans un journal exploitable a posteriori. Il faut un interrupteur qui coupe l'agent entièrement, et il doit fonctionner sans la participation de l'agent lui-même.

Troisième point : désignez un responsable. Chaque agent en production relève d'une personne ou d'une équipe précise. Pour structurer les processus, on peut s'appuyer sur le NIST AI Risk Management Framework : il est facultatif, mais fournit un langage commun pour les audits et les échanges avec les régulateurs.

Les entreprises qui mettront en place ces pratiques avant l'apparition d'exigences formelles se retrouveront en meilleure position. Lorsque le cadre de gouvernance deviendra obligatoire, elles n'auront qu'à attester de ce qu'elles font déjà.