Anthropic abre su oficina a seis auditores de METR, que podrán publicar informes sin veto

Anthropic informó el 15 de octubre de 2026 de que ha dado a seis empleados de METR un acceso «como el de los propios»: portátiles corporativos, un puesto de trabajo en la oficina y sistemas internos, en conjunto comparables a lo que ven los equipos de evaluación de riesgos de la propia empresa. METR es una organización sin ánimo de lucro que prueba modelos de frontera. Publicará su análisis de los niveles de riesgo, los incidentes y las prácticas de Anthropic, y la compañía no podrá impedirlo.

El paso sigue a los compromisos del mes pasado. Entonces Anthropic prometió reforzar la evaluación independiente de sus modelos y firmó el White House Accord on Super Intelligence, en el que las empresas acordaron colaborar con auditores externos. Durante el último año, METR ya ha revisado en varias ocasiones los Risk Reports de la compañía. Ahora el formato cambia: METR deja de ser un revisor externo y pasa a ser un observador dentro del proceso.

Cómo funciona el acceso

El argumento de Anthropic es sencillo: no se puede publicar todo. Parte de la información serviría a actores maliciosos y parte es comercialmente sensible, como los datos sobre capacidad de cómputo y entrenamiento. Por eso la compañía propone no revelarlo todo públicamente, sino mostrarlo todo a expertos independientes, que expondrán sus conclusiones y las pruebas. El objetivo de Anthropic es reducir la brecha entre lo que los evaluadores entienden de los sistemas de la compañía y lo que entiende la propia empresa. La comparación se hace con la supervisión bancaria, donde los reguladores colocan inspectores residentes dentro de los mayores bancos. La analogía no es exacta, advierte la compañía, pero la lógica es parecida.

Las condiciones para METR son las siguientes:

• seis empleados con equipos corporativos y oficina;
• acceso a herramientas internas aproximadamente al nivel de los propios equipos de evaluación de riesgos;
• excepciones: datos de clientes, información protegida por el secreto profesional entre abogado y cliente, y datos sobre la arquitectura de los modelos;
• derecho a publicar el análisis de riesgos, incidentes y prácticas;
• derecho de Anthropic a exigir únicamente la edición de datos de categorías acotadas y definidas de antemano.

Si METR considera injustificada una supresión, puede decirlo públicamente sin revelar los datos ocultos. El resto del personal de METR, incluidos los investigadores que trabajan con Anthropic en otros proyectos, está separado de este equipo. El trabajo se rige por acuerdos vinculantes y por los estándares de seguridad de Anthropic.

Criterios de independencia y tres niveles

Anthropic formula cuatro requisitos para un evaluador: experiencia (incluida la comprensión de cómo se rompen las evaluaciones, por ejemplo por alignment faking), independencia (sin acciones de la compañía ni dependencia financiera u operativa), acceso suficiente (no solo a los modelos más recientes, sino también a cómo se entrenaron y cómo funcionan los mecanismos de protección) y libertad para publicar sus observaciones.

Además de METR, la compañía trabaja con SecureBio y Accenture y mantiene conversaciones preliminares con otras organizaciones, entre ellas Hugging Face. A estos socios se les da menos información y menos derechos de publicación: Anthropic quiere asegurarse primero de que protegen los datos confidenciales y tienen recursos para evaluar. Para ello se introducen tres niveles de acceso.

En el primero, los evaluadores llevan a cabo investigaciones de riesgos de alcance limitado, el volumen de acceso lo determina Anthropic y la publicación solo es posible con su aprobación. En el segundo se amplían los derechos de publicación (en el fragmento disponible, la descripción de este nivel se interrumpe). En el tercero, como espera la compañía, con el tiempo habrá varios evaluadores, cada uno de los cuales publicará su propio análisis de la posición de riesgo de Anthropic y de sus decisiones clave.

Qué comprobar en la práctica

La cuestión principal ya no es el esquema en sí, sino su ejecución. Para los observadores externos conviene seguir tres cosas. La primera es el primer informe de METR: cuán concreto es y cuántas supresiones contiene.

La segunda son los comentarios de METR sobre si las supresiones estaban justificadas, porque ese mecanismo es precisamente el que sustituye al veto. La tercera es el avance del resto de socios por los niveles: si SecureBio o Accenture se quedan en el primer nivel, el esquema se convertirá en una simple externalización de revisiones. También conviene tener presente la exclusión de los datos sobre la arquitectura de los modelos: limita la profundidad de cualquier evaluación.

Para otros laboratorios, este modelo será una referencia: si Anthropic resiste la publicación de conclusiones incómodas, se empezarán a esperar condiciones similares del resto de firmantes del acuerdo.