Anthropic ouvre ses bureaux à six auditeurs de METR, libres de publier leurs rapports sans veto

Anthropic a annoncé le 15 octobre 2026 avoir donné à six employés de METR un accès « comme pour ses propres équipes » : ordinateurs portables de l'entreprise, poste de travail au bureau et systèmes internes, dans un périmètre à peu près comparable à ce que voient les équipes d'évaluation des risques d'Anthropic. METR est une organisation à but non lucratif qui teste les modèles de frontière. Elle publiera son analyse des niveaux de risque, des incidents et des pratiques d'Anthropic, et l'entreprise ne pourra pas l'en empêcher.

Cette décision fait suite aux engagements du mois dernier. Anthropic avait alors promis de renforcer l'évaluation indépendante de ses modèles et signé le White House Accord on Super Intelligence, par lequel les entreprises s'engagent à coopérer avec des auditeurs externes. Au cours de l'année écoulée, METR a déjà relu à plusieurs reprises les Risk Reports de l'entreprise. Le format change désormais : de relecteur externe, METR devient observateur au cœur du processus.

Comment fonctionne l'accès

L'argument d'Anthropic est simple : tout publier est impossible. Une partie des informations serviraient à des acteurs malveillants, une autre est commercialement sensible, par exemple les données sur les capacités de calcul et l'entraînement. L'entreprise propose donc, plutôt que de tout rendre public, de tout montrer à des experts indépendants, qui exposeront leurs conclusions et leurs preuves. L'objectif d'Anthropic est de réduire l'écart entre ce que les évaluateurs comprennent des systèmes de l'entreprise et ce qu'elle en comprend elle-même. Elle établit une comparaison avec la supervision bancaire, où les régulateurs installent des inspecteurs résidents au sein des plus grandes banques. L'analogie est imparfaite, précise l'entreprise, mais la logique est similaire.

Les conditions faites à METR sont les suivantes :

• six employés dotés d'un équipement de l'entreprise et d'un bureau ;
• accès aux outils internes à peu près au niveau des équipes d'évaluation des risques d'Anthropic ;
• exceptions : les données clients, les informations couvertes par le secret professionnel des avocats et les informations sur l'architecture des modèles ;
• droit de publier l'analyse des risques, des incidents et des pratiques ;
• droit d'Anthropic d'exiger uniquement le caviardage de données relevant de catégories étroites, définies à l'avance.

Si METR juge un caviardage injustifié, elle peut le dire publiquement, sans révéler les informations masquées. Les autres employés de METR, y compris les chercheurs qui travaillent avec Anthropic sur d'autres projets, sont séparés de cette équipe. Le travail s'effectue dans le cadre d'accords contraignants et selon les normes de sécurité d'Anthropic.

Critères d'indépendance et trois niveaux

Anthropic formule quatre exigences pour un évaluateur : l'expertise (notamment la compréhension de la façon dont les évaluations échouent, par exemple à cause de l'alignment faking), l'indépendance (aucune action de l'entreprise, aucune dépendance financière ou opérationnelle), un accès suffisant (pas seulement aux modèles les plus récents, mais aussi à la manière dont ils ont été entraînés et dont fonctionnent les mécanismes de protection) et la liberté de publier ses observations.

Outre METR, l'entreprise travaille avec SecureBio et Accenture, et mène des discussions préliminaires avec plusieurs autres organisations, dont Hugging Face. Ces partenaires reçoivent moins d'informations et disposent de droits de publication plus limités : Anthropic veut d'abord s'assurer qu'ils protègent les données confidentielles et qu'ils ont les ressources nécessaires pour mener des évaluations. Trois niveaux d'accès sont créés à cet effet.

Au premier, les évaluateurs mènent des enquêtes étroitement délimitées sur les risques ; Anthropic détermine l'étendue de l'accès, et la publication n'est possible qu'avec son accord. Au deuxième, les droits de publication sont élargis (dans le fragment disponible, la description de ce niveau s'interrompt). Au troisième, l'entreprise espère voir émerger à terme plusieurs évaluateurs, chacun publiant sa propre analyse de la position d'Anthropic en matière de risques et de ses décisions clés.

Ce qu'il faudra vérifier en pratique

La question centrale ne porte plus sur le dispositif lui-même, mais sur son application. Pour les observateurs externes, trois points méritent d'être suivis. Le premier : le premier rapport de METR, son degré de précision et le nombre de passages caviardés.

Le deuxième : les commentaires de METR sur le caractère justifié ou non des caviardages, puisque ce mécanisme tient précisément lieu de veto. Le troisième : la progression des autres partenaires dans les niveaux. Si SecureBio ou Accenture restent au premier niveau, le dispositif se réduira à une simple externalisation des vérifications.

L'exclusion des informations sur l'architecture des modèles doit aussi rester à l'esprit : elle limite la profondeur de toute évaluation. Pour les autres laboratoires, ce modèle servira de référence : si Anthropic tient bon et publie des conclusions embarrassantes, des conditions similaires seront attendues des autres signataires de l'accord.