Le fondateur de Moderna exige de réguler d'urgence les agents IA avant la première catastrophe

Nubar Afeyan, cofondateur de Moderna et milliardaire issu du monde des biotechnologies, appelle à réguler d'urgence les agents IA, que les entreprises technologiques vendent déjà à leurs clients. Son argument vient de l'expérience de sa propre industrie : si l'on attend la catastrophe pour écrire les règles ensuite, on rejouera l'histoire de l'industrie pharmaceutique. L'information provient de Bloomberg.

La dépêche est courte. Le texte accessible ne dit pas ce que propose précisément Afeyan (quelles exigences, quel régulateur, quel calendrier). Nous nous en tenons donc ci-dessous à ce qui est établi, et nous expliquons pourquoi la comparaison avec la pharma n'est pas fortuite.

Qui parle, et pourquoi il sera écouté

Afeyan est cofondateur et président de Moderna, ainsi que fondateur du studio de capital-risque Flagship Pioneering. Il sait ce que représente le parcours d'un produit, du laboratoire jusqu'au marché de masse, sous la supervision de régulateurs tels que la FDA. Parmi les sociétés de Flagship, certaines utilisent l'IA dans le développement de médicaments. C'est la voix d'un acteur d'une industrie très strictement régulée, qui a pourtant un intérêt à ce que la technologie se développe.

Ce que l'histoire de la pharma enseigne

Les normes pharmaceutiques sont rarement venues en amont. Elles ont généralement suivi une tragédie.

• 1937, États-Unis : le médicament Elixir Sulfanilamide, dont le solvant était toxique, a fait plus d'une centaine de morts. Une loi a suivi en 1938, obligeant les fabricants à prouver l'innocuité d'un produit avant sa mise sur le marché.
• Fin des années 1950 et début des années 1960 : la thalidomide a provoqué des malformations chez des milliers d'enfants dans le monde. Aux États-Unis, la réponse a pris la forme des amendements Kefauver-Harris de 1962, qui ont ajouté l'obligation de prouver l'efficacité d'un médicament.

Dans les deux cas, le système de contrôle a été construit à la suite des dégâts. D'après Bloomberg, Afeyan propose de ne pas attendre le même scénario pour l'IA.

Pourquoi les agents diffèrent des chatbots

Un chatbot produit du texte, et c'est l'humain qui décide quoi en faire. Un agent agit seul : il effectue des achats, écrit et exécute du code, envoie des e-mails, accède aux systèmes et aux comptes de l'entreprise. L'erreur du modèle se transforme alors en action, qu'il n'est pas toujours possible d'annuler. Plus l'agent reçoit de pouvoirs, plus une défaillance coûte cher, et plus il devient difficile de déterminer qui en est responsable : le développeur du modèle, le fournisseur de la plateforme ou l'entreprise qui a déployé le produit.

Dans la plupart des juridictions, les exigences spécifiquement consacrées aux agents sont pour l'instant peu nombreuses. Il existe des cadres généraux pour l'IA, mais ils ont été écrits pour les modèles et les systèmes en général, pas pour des programmes qui exécutent seuls des chaînes d'actions.

Les faits clés

• Qui : Nubar Afeyan, cofondateur de Moderna, fondateur de Flagship Pioneering.
• Ce qu'il demande : une régulation urgente des agents IA vendus par les entreprises technologiques.
• Son argument : attendre la catastrophe reviendrait à répéter les erreurs de la pharma.
• Source : Bloomberg, 13 octobre 2026.
• Non précisé : les mesures concrètes, le régulateur et le calendrier.

Que faire pour les entreprises qui déploient déjà des agents

Il n'est pas nécessaire d'attendre une loi : la pharma offre dès maintenant des pratiques éprouvées.

Premièrement : limitez les droits. L'agent doit disposer du minimum d'accès, et les opérations irréversibles, comme les paiements, la suppression de données ou l'envoi d'e-mails externes, doivent exiger la validation d'un humain.

Deuxièmement : tenez un journal. Chaque action de l'agent doit être enregistrée de façon à pouvoir reconstituer la chaîne de décisions après une défaillance.

Troisièmement : déployez par étapes. Sur le modèle des phases d'essais cliniques, commencez par une tâche étroite et un groupe d'utilisateurs restreint, et n'élargissez le périmètre de responsabilité qu'après validation sur des données réelles.

Quatrièmement : déterminez à l'avance qui répond des dommages, et inscrivez-le dans les contrats avec les fournisseurs. Si la régulation arrive, les entreprises disposant d'un audit prêt et d'une responsabilité clairement établie en sortiront gagnantes.