Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAnálisis · En radarThe Decoder→ original

OpenAI abre sus oficinas a cuatro auditores externos para revisar sus modelos por primera vez

Normalmente, la propia laboratorio es quien revisa la seguridad de la IA, pero OpenAI ha invitado por primera vez a cuatro auditores independientes a sus oficinas. Se trata de Apollo Research, METR, Transluce y Goodfire, a quienes se les han abierto modelos no publicados, código, datos de entrenamiento y sistemas de monitorización. Un consejo independiente de seguridad supervisa el proceso y recibe los informes sin censura. Para el mercado, es una prueba de si la auditoría externa de la IA se convertirá en una práctica habitual.

Procesado por IA desde The Decoder; editado por Hamidun News
OpenAI abre sus oficinas a cuatro auditores externos para revisar sus modelos por primera vez
Fuente: The Decoder. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalThe Decoder ↗
Editor jefe
Dato clave #1Apollo Research busca modelos que trabajen en secreto contra sus desarrolladores
Dato clave #2METR estudia los fallos en el mayor entrenamiento con aprendizaje por refuerzo
Dato clave #3OpenAI puede eliminar datos de los informes y retrasar su publicación

Normalmente, sabemos de la seguridad de la IA por los informes de las propias empresas: el laboratorio revisa su modelo y comunica que todo está en orden. Imagine un restaurante que se extiende a sí mismo el certificado sanitario. OpenAI ha decidido añadir una mirada externa: la empresa ha abierto por primera vez sus sistemas internos a cuatro auditores independientes, que trabajan directamente en sus oficinas y estudian los riesgos y el comportamiento de los modelos. Por auditores se entiende aquí organizaciones de investigación externas, sin vínculos con OpenAI.

Quién revisa qué

El programa incluye a Apollo Research, METR, Transluce y Goodfire. Cada una tiene una tarea propia. Apollo Research investiga si los modelos trabajan en secreto contra las intenciones de sus desarrolladores. METR analiza los casos de comportamiento incorrecto de la IA en el mayor entrenamiento con aprendizaje por refuerzo. Así se denomina el método en el que un modelo aprende a partir de «recompensas» por las acciones correctas. Goodfire analiza los procesos internos del modelo, es decir, intenta entender qué ocurre «bajo el capó». Transluce evalúa las pruebas de seguridad que se realizan después del entrenamiento principal.

El acceso depende de cada tarea, pero la lista es impresionante. En las oficinas de OpenAI, los auditores pueden trabajar con modelos aún no lanzados, código fuente, datos de entrenamiento y sistemas de monitorización. Además, tienen derecho a hablar en privado con los desarrolladores. Esto es importante: los ingenieros suelen conocer los puntos débiles mucho mejor de lo que llega a la documentación oficial.

El programa amplía una revisión in situ anterior, que se centró en los sistemas de monitorización de OpenAI. La compañía afirma además que de este modo cumple los compromisos derivados del «White House Accord on Super Intelligence». A comienzos de 2027, OpenAI y Transluce planean otra revisión, esta vez de ocho semanas.

Cómo se controla a los auditores

Para que el proceso no se convierta en una mera formalidad, existe un consejo independiente de seguridad que lo supervisa. Vigila todo el trabajo, recibe los informes sin partes tachadas y actúa como mediador si las partes discrepan. Si un auditor y la empresa no coinciden, por ejemplo, en la evaluación de un riesgo, OpenAI no tendrá que resolverlo por su cuenta.

Los auditores publican sus conclusiones por sí mismos. Pero la compañía dispone de palancas: OpenAI puede tachar material confidencial y retrasar la publicación para corregir primero los riesgos detectados. Por un lado, es razonable: no tiene sentido publicar la descripción de una vulnerabilidad mientras siga abierta. Por otro, aquí estará la principal frontera de confianza. Solo la práctica mostrará con qué frecuencia y durante cuánto tiempo se retrasarán los informes.

OpenAI reconoce que al principio habrá fricciones. Ya piensa en nuevas revisiones, incluidas algunas que abordarán la cultura corporativa y los procesos internos. Es decir, a los auditores podrían pedirles que examinen no solo los modelos, sino también cómo toma decisiones la empresa.

Qué significa para la industria

Para los desarrolladores y los responsables de producto que construyen sobre los modelos de OpenAI, la noticia es sobre todo una señal. No implica cambios directos en la API. Pero muestra hacia dónde se mueve el mercado: los grandes laboratorios empiezan a respaldar sus declaraciones de seguridad con revisiones externas, y no solo con sus propias pruebas.

Para los fundadores y los equipos que desarrollan sus propios modelos o agentes, es además una referencia. Si los reguladores y los clientes se acostumbran a que el laboratorio líder tenga una auditoría externa con acceso al código y a los datos, la pregunta «¿quién os ha revisado a vosotros?» llegará también al resto. Pensar de antemano cómo mostrar a especialistas externos los registros, la monitorización y los resultados de las evaluaciones será una práctica útil.

Hay también límites honestos. Por ahora es un anuncio: no hay resultados de las revisiones y no se sabe qué encontrarán los auditores. Participan organizaciones que OpenAI ha elegido por sí misma. El derecho a editar los informes y a retrasarlos sigue en manos de la compañía. Por eso, el valor real del programa se juzgará por las primeras publicaciones: cuánta concreción tendrán y cuán críticas serán sus conclusiones.

Por ahora, la conclusión principal es esta: por primera vez, especialistas externos tienen acceso directo a modelos no publicados, código y datos de uno de los principales laboratorios de IA. Lo que venga después dependerá de lo honesto que resulte el funcionamiento de este esquema.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Quién revisa qué?

El programa incluye a Apollo Research, METR, Transluce y Goodfire. Cada una tiene una tarea propia. Apollo Research investiga si los modelos trabajan en secreto contra las intenciones de sus desarrolladores. METR analiza los casos de comportamiento incorrecto de la IA en el mayor entrenamiento con aprendizaje por refuerzo. Así se denomina el método en el que un modelo aprende a partir de «recompensas» por las acciones correctas.

Cómo se controla a los auditores?

Para que el proceso no se convierta en una mera formalidad, existe un consejo independiente de seguridad que lo supervisa. Vigila todo el trabajo, recibe los informes sin partes tachadas y actúa como mediador si las partes discrepan. Si un auditor y la empresa no coinciden, por ejemplo, en la evaluación de un riesgo, OpenAI no tendrá que resolverlo por su cuenta. Los auditores publican sus conclusiones por sí mismos.

¿Qué se sabe sobre Qué significa para la industria?

Para los desarrolladores y los responsables de producto que construyen sobre los modelos de OpenAI, la noticia es sobre todo una señal. No implica cambios directos en la API. Pero muestra hacia dónde se mueve el mercado: los grandes laboratorios empiezan a respaldar sus declaraciones de seguridad con revisiones externas, y no solo con sus propias pruebas. Para los fundadores y los equipos que desarrollan sus propios modelos o agentes, es además una referencia.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…