Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAPI / Producto · Listo para usarOpenAI Blog→ original

OpenAI abre sus modelos a cuatro auditores externos: Apollo, METR, Transluce y Goodfire

OpenAI ha dado acceso a su laboratorio a cuatro verificadores independientes: Apollo Research, METR, Transluce y Goodfire. Podrán ver no solo las respuestas de la API, sino también los puntos de control, el código y los datos de entrenamiento. Es como inspeccionar la cocina de un restaurante, y no solo el plato que llega a la mesa. Buscarán fallos que la compañía no esperaba, como un comportamiento oculto del modelo en contra de sus desarrolladores. Los resultados se publicarán, pero OpenAI conservará el derecho a eliminar la información secreta.

Procesado por IA desde OpenAI Blog; editado por Hamidun News
OpenAI abre sus modelos a cuatro auditores externos: Apollo, METR, Transluce y Goodfire
Fuente: OpenAI Blog. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalOpenAI Blog ↗
Editor jefe
Dato clave #1METR estudiará la mayor sesión de aprendizaje por refuerzo en la historia de OpenAI
Dato clave #2Transluce revisará las pruebas de alineación; una segunda fase de 8 semanas tendrá lugar en 2027
Dato clave #3Los auditores que trabajen con datos secretos lo harán solo en las oficinas de OpenAI

Normalmente, la verificación externa de la IA funciona así: el laboratorio lanza un modelo, investigadores externos lo examinan a través de la API y escriben un informe. Solo ven lo que la compañía decide mostrar. Es como evaluar un restaurante por un solo plato sobre la mesa, sin dejar entrar a nadie en la cocina. OpenAI ha anunciado otro esquema, las «evaluaciones integradas» (embedded assessments). Ha firmado acuerdos con cuatro equipos independientes —Apollo Research, METR, Transluce y Goodfire—. Tendrán acceso profundo a los modelos y sistemas internos durante un periodo prolongado. Si construye productos sobre los modelos más potentes, esta es una oportunidad para entender hasta qué punto pueden creerse las afirmaciones de los laboratorios sobre seguridad.

Qué recibirán los verificadores y en qué trabajará cada uno

Según la tarea, los auditores recibirán parte de los mismos recursos que los propios investigadores de OpenAI. Se trata de los puntos de control del modelo (versiones intermedias guardadas), el código fuente, los datos de entrenamiento y prueba, los sistemas de monitorización, la documentación técnica y las conversaciones con los ingenieros. La primera fase se centra en la «alineación» (alignment, es decir, la correspondencia entre el comportamiento del modelo y las intenciones de sus desarrolladores) y en los mecanismos de protección durante el entrenamiento y el uso interno.

Apollo Research investigará si el modelo puede actuar en secreto en contra de sus desarrolladores y si los sistemas de protección lo detectarían. Para ello, Apollo comprobará cuatro afirmaciones de OpenAI: el entrenamiento no incentivó ese comportamiento; las pruebas exigentes y el red teaming no lo provocan; durante el uso interno del modelo no se registraron intentos de ese tipo; y los razonamientos que sustentan dicho comportamiento pueden detectarse. La verificación se realizará en dos fases.

METR abordará dos tareas. La primera consiste en buscar comportamientos desalineados en la mayor sesión de aprendizaje por refuerzo que OpenAI ha llevado a cabo hasta la fecha, incluidos los fallos que pasaron las pruebas y los monitores existentes. METR fijará sus propias prioridades y cambiará sus métodos a medida que avance el trabajo. La segunda tarea es la revisión de los monitores, es decir, los sistemas que vigilan el comportamiento de los modelos. METR ya realizó para OpenAI, hace poco, unos ejercicios de este tipo, de tres semanas, con acceso a la base de código y a los monitores. La nueva verificación tiene un alcance más amplio, pero su volumen solo se ha acordado de forma preliminar.

Transluce evaluará la calidad y la cobertura de las pruebas de alineación que OpenAI ejecuta tras el ajuste fino de los modelos. En términos sencillos, comprobará si esas pruebas detectan lo que deberían detectar. A comienzos de 2027, las partes prevén una segunda fase de unas ocho semanas, con acceso a un mayor número de modelos y a información sobre cómo los resultados de las pruebas influyen en las decisiones de lanzamiento.

Goodfire enviará a investigadores de interpretabilidad. Usarán su plataforma para examinar el funcionamiento interno del modelo durante la monitorización y la depuración del entrenamiento. Los principales destinatarios de sus conclusiones serán los propios investigadores de OpenAI, aunque Goodfire publicará parte de sus resultados.

Cómo se protegieron la independencia y los secretos

Las normas de este tipo de verificaciones todavía no están estandarizadas en ninguna parte, y OpenAI ha publicado las suyas para su debate. Quienes trabajen con información sensible deberán hacerlo en las oficinas de OpenAI y usando los dispositivos corporativos. Los requisitos de seguridad no serán inferiores a los que se aplican a los empleados. Si el acceso directo a los pesos o a la arquitectura resulta demasiado arriesgado, el auditor podrá trabajar en pareja con un investigador de OpenAI, que ejecutará por sí mismo los análisis necesarios.

Las conversaciones con el personal se mantienen «en off»: sirven para entender el contexto, pero no pueden citarse. Para que un hecho pueda hacerse público existe una vía aparte: el auditor pide a OpenAI que confirme la formulación. La compañía la confirma o la rechaza, y el auditor puede informar públicamente de la negativa.

Las discrepancias entre OpenAI y un auditor pasan al Safety Advisory Group y a la dirección, que disponen de un plazo limitado para resolverlas. Si no hay acuerdo, el asunto se remite al Comité de Seguridad (SSC) del consejo de administración de OpenAI Foundation. El comité recibe los informes íntegros y puede comunicarse con los auditores, incluso en privado.

Los propios auditores pueden publicar los resultados. Sin embargo, OpenAI se reserva el derecho a eliminar datos confidenciales y a pedir un aplazamiento si los problemas encontrados deben corregirse antes. Los conflictos de interés y los «periodos de enfriamiento» antes de que los auditores trabajen con otros laboratorios todavía se están negociando junto con los propios auditores.

Qué significa y dónde están los límites

Para la industria, es un paso hacia una auditoría externa que examine el proceso de creación del modelo, y no solo el producto final. La iniciativa también está ligada a los compromisos de OpenAI derivados del acuerdo de la Casa Blanca sobre la IA superinteligente, en el que la compañía aceptó someter sus medidas de seguridad a evaluaciones independientes.

Las reservas son evidentes. OpenAI es quien fija el marco de la verificación: una nota indica que la primera fase de METR es más limitada que su propia propuesta de una revisión amplia de la desalineación. El derecho a editar los informes sigue en manos de la compañía. Las comprobaciones del cumplimiento de sus marcos internos de seguridad y de la cultura organizativa solo se están considerando por ahora.

Si elige proveedor de modelos, siga las publicaciones de Apollo, METR, Transluce y Goodfire. A partir de ellas se verá si estas verificaciones encuentran problemas reales o se quedan en un mero trámite.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Qué recibirán los verificadores y en qué trabajará cada uno?

Según la tarea, los auditores recibirán parte de los mismos recursos que los propios investigadores de OpenAI. Se trata de los puntos de control del modelo (versiones intermedias guardadas), el código fuente, los datos de entrenamiento y prueba, los sistemas de monitorización, la documentación técnica y las conversaciones con los ingenieros.

Cómo se protegieron la independencia y los secretos?

Las normas de este tipo de verificaciones todavía no están estandarizadas en ninguna parte, y OpenAI ha publicado las suyas para su debate. Quienes trabajen con información sensible deberán hacerlo en las oficinas de OpenAI y usando los dispositivos corporativos. Los requisitos de seguridad no serán inferiores a los que se aplican a los empleados.

¿Qué se sabe sobre Qué significa y dónde están los límites?

Para la industria, es un paso hacia una auditoría externa que examine el proceso de creación del modelo, y no solo el producto final. La iniciativa también está ligada a los compromisos de OpenAI derivados del acuerdo de la Casa Blanca sobre la IA superinteligente, en el que la compañía aceptó someter sus medidas de seguridad a evaluaciones independientes. Las reservas son evidentes.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…