Claude Sonnet 5 a choisi seul l'une des 19 thérapies géniques et opéré le cerveau d'une souris

Un agent IA basé sur Claude Sonnet 5 a reçu une liste de 19 thérapies géniques possibles, un modèle murin d'épilepsie et l'accès à une installation chirurgicale motorisée. Dans cette liste, il a choisi lui-même la thérapie, la cible cérébrale et les coordonnées d'injection, puis il a opéré le cerveau d'une souris vivante. Gabriel Ocaña-Santero, cofondateur et CEO de la start-up Exin Therapeutics et doctorant à l'université d'Oxford, a raconté l'expérience dans un thread sur X. Selon lui, aucun agent n'avait jusqu'ici combiné le choix du traitement et son administration à un mammifère vivant. Les résultats n'ont pas été évalués par des pairs ; un rapport technique est promis ultérieurement.

Ce que l'agent a reçu et ce qu'il a décidé seul

Les conditions de départ étaient minimales. Claude Sonnet 5 disposait de 19 thérapies géniques au choix, d'un modèle murin d'épilepsie, dans lequel les crises sont provoquées artificiellement pour tester un traitement, et d'une installation artisanale composée d'un microscope, d'une seringue et de caméras. La consigne se résumait à un objectif : réduire le nombre de crises.

L'agent a ensuite agi sans aucune aide. Il a d'abord analysé comment surviennent les crises dans ce modèle précis, puis proposé une thérapie qui renforce l'une des voies de signalisation inhibitrices du cerveau. Comme cible, il a retenu une structure que la littérature considère comme le point d'origine de ce type de crises. Il a écarté une seconde zone candidate, en motivant longuement son refus : son effet est trop instable, et une étude montre qu'elle n'a pas aidé contre ce même type de crises.

L'agent a déduit les coordonnées stéréotaxiques (des repères tridimensionnels précis pour guider l'aiguille) de trois articles scientifiques, en recoupant les points de référence et en moyennant les valeurs. Il a aussi défini lui-même le volume d'injection, la vitesse et les pauses. Pendant l'opération, il a surveillé le champ opératoire par la caméra, réalisé 32 observations et signalé, par exemple, que 15 % du volume avait été injecté, sans saignement ni reflux.

Quand les garde-fous se sont retournés contre l'équipe

Le cadre était strict. Un vétérinaire agréé validait chaque étape irréversible et disposait d'un bouton physique qui coupait instantanément l'alimentation de tous les moteurs. S'y ajoutaient des limites fixes, comme un plafond de volume d'injection, que l'agent avait explicitement interdiction de contourner.

Ce sont précisément ces garde-fous qui ont interrompu la procédure. Après une coupure de liaison, l'agent a calculé que la position cible se trouvait hors de la plage de mouvement physique de l'installation, et il a refusé de poursuivre. Le redémarrage de la calibration n'a pas changé son évaluation, pas plus qu'une troisième tentative. L'agent avait raison : des corrections manuelles effectuées lors d'une pause précédente avaient faussé les paramètres du système de contrôle. Gabriel Ocaña-Santero n'a pas réussi à le convaincre de continuer, alors qu'un animal sous anesthésie se trouvait sur la table. Il a fini par corriger le code à la main.

« Une expérience décevante, mais elle montre à quel point nous pouvons dépendre de ces modèles, et ce qui se passe quand, en pleine procédure urgente, ils disent simplement "non" », a-t-il écrit. La souris, selon lui, s'est bien rétablie.

Pourquoi Sonnet 5 plutôt que les Opus, plus puissants

Le choix du modèle illustre lui aussi le problème de l'alignement. Sonnet 5 s'est révélé le seul à accepter de mener une procédure sur animal vivant de bout en bout. Les plus puissants Claude Opus 5.5 et Opus 5 ont refusé. Opus 5 a expliqué qu'il ne pouvait pas garantir d'aller au bout, et qu'un arrêt avec une aiguille dans le cerveau d'un animal anesthésié était pire que de ne pas commencer. Le problème de l'alignement consiste à faire en sorte que les agents suivent de façon fiable les intentions de l'humain ; ici, le modèle a suivi sa propre conception de la sécurité, qui ne coïncidait pas avec les plans de l'opérateur.

Gabriel Ocaña-Santero apporte une nuance : des robots chirurgicaux autonomes existent et sont mécaniquement plus précis que son installation, mais dans leur cas, c'est un humain qui choisissait l'opération et la machine ne faisait que l'exécuter. Il qualifie son approche d'« in vivo lab in the loop » : les agents sont pleinement connectés aux capacités expérimentales du laboratoire. D'après le média source, Anthropic travaille dans la même direction avec son « Model Hardware Standard ».

Ce qui reste en suspens

L'expérience ressemble à une démonstration de boucle complète, pas à un résultat scientifique sur la thérapie. La source ne dit pas si les crises ont diminué, ni dans quelle mesure le choix de l'agent était meilleur que les alternatives. Le récit repose sur le thread de son auteur, et non sur un travail évalué par des pairs. On ignore aussi combien d'animaux et de tentatives se cachent derrière la démonstration.

La leçon pratique pour ceux qui connectent des agents à du matériel physique est simple. L'arrêt d'urgence matériel et les limites strictes fonctionnent, mais un agent qui refuse honnêtement de les franchir peut interrompre la procédure au pire moment. Il faut prévoir à l'avance un protocole pour un tel refus, plutôt que de réparer le code à la main avec un animal sous anesthésie.