Anthropic accorde aux auditeurs de METR un accès interne de niveau collaborateur pour évaluer ses IA

Le laboratoire Anthropic franchit une étape rare dans l'industrie en accordant à l'organisation indépendante METR un accès à ses modèles de pointe équivalent à celui de ses propres ingénieurs. Ce groupe à but non lucratif, spécialisé dans l'évaluation des capacités et des risques d'autonomie des systèmes frontier, pourra analyser les poids et les points de contrôle intermédiaires (checkpoints) sans les filtres commerciaux standards ni les limites d'API. En parallèle, l'entreprise a confirmé des discussions préliminaires avec la plateforme Hugging Face afin d'établir des protocoles similaires de vérification indépendante.

Un accès aux infrastructures plutôt que des benchmarks opaques

Jusqu'à présent, l'audit de sécurité indépendant se limitait à des tests à l'aveugle via des API ou à de courtes sessions de red-teaming organisées quelques semaines avant l'annonce publique. Le modèle mis en place avec METR rompt avec cette approche : les chercheurs disposent d'un accès continu aux environnements bruts de développement. Cela permet d'évaluer la propension des modèles aux cyberattaques, à l'autoréplication, à la manipulation ou à la conception de matériaux biologiques dangereux à un stade où le système peut encore être réentraîné ou interrompu.

L'intégration d'ingénieurs tiers au sein des réseaux internes de l'entreprise impose toutefois un cloisonnement technique et juridique rigoureux. Anthropic doit maintenir l'équilibre entre la protection de sa propriété intellectuelle et les engagements de transparence pris dans sa Responsible Scaling Policy.

Les paramètres clés de l'initiative

• Niveau d'accès : habilitation totale (employee-like access) dans des environnements isolés pour les analystes de METR.
• Objet de l'évaluation : analyse des capacités d'autonomie, des risques d'alignement et de la résistance aux failles complexes en amont du déploiement.
• Nouveaux partenaires : négociations en cours avec l'écosystème ouvert Hugging Face pour diversifier les audits indépendants.
• Standardisation RSP : intégration directe des conclusions d'audit parmi les déclencheurs de sa propre politique d'échelle responsable (Responsible Scaling Policy v3.0).

Vers une institutionnalisation des audits

Le partenariat avec METR et les échanges avec Hugging Face traduisent une volonté d'établir un précédent sur le marché avant que les régulateurs étatiques n'imposent des contraintes strictes. Anthropic cherche à transformer cette ouverture aux chercheurs externes en standard de facto pour le secteur. Cette dynamique met sous pression des acteurs comme OpenAI ou Google DeepMind : maintenir le secret autour de rapports internes devient plus difficile lorsqu'un concurrent direct ouvre ses coulisses de développement à des contrôleurs indépendants.