OpenAI abre sus oficinas a cuatro auditores externos para revisar sus modelos por primera vez
Normalmente, la propia laboratorio es quien revisa la seguridad de la IA, pero OpenAI ha invitado por primera vez a cuatro auditores independientes a sus oficinas. Se trata de Apollo Research, METR, Transluce y Goodfire, a quienes se les han abierto modelos no publicados, código, datos de entrenamiento y sistemas de monitorización. Un consejo independiente de seguridad supervisa el proceso y recibe los informes sin censura. Para el mercado, es una prueba de si la auditoría externa de la IA se convertirá en una práctica habitual.
Procesado por IA desde The Decoder; editado por Hamidun News
Normalmente, sabemos de la seguridad de la IA por los informes de las propias empresas: el laboratorio revisa su modelo y comunica que todo está en orden. Imagine un restaurante que se extiende a sí mismo el certificado sanitario. OpenAI ha decidido añadir una mirada externa: la empresa ha abierto por primera vez sus sistemas internos a cuatro auditores independientes, que trabajan directamente en sus oficinas y estudian los riesgos y el comportamiento de los modelos. Por auditores se entiende aquí organizaciones de investigación externas, sin vínculos con OpenAI.
Quién revisa qué
El programa incluye a Apollo Research, METR, Transluce y Goodfire. Cada una tiene una tarea propia. Apollo Research investiga si los modelos trabajan en secreto contra las intenciones de sus desarrolladores. METR analiza los casos de comportamiento incorrecto de la IA en el mayor entrenamiento con aprendizaje por refuerzo. Así se denomina el método en el que un modelo aprende a partir de «recompensas» por las acciones correctas. Goodfire analiza los procesos internos del modelo, es decir, intenta entender qué ocurre «bajo el capó». Transluce evalúa las pruebas de seguridad que se realizan después del entrenamiento principal.
El acceso depende de cada tarea, pero la lista es impresionante. En las oficinas de OpenAI, los auditores pueden trabajar con modelos aún no lanzados, código fuente, datos de entrenamiento y sistemas de monitorización. Además, tienen derecho a hablar en privado con los desarrolladores. Esto es importante: los ingenieros suelen conocer los puntos débiles mucho mejor de lo que llega a la documentación oficial.
El programa amplía una revisión in situ anterior, que se centró en los sistemas de monitorización de OpenAI. La compañía afirma además que de este modo cumple los compromisos derivados del «White House Accord on Super Intelligence». A comienzos de 2027, OpenAI y Transluce planean otra revisión, esta vez de ocho semanas.
Cómo se controla a los auditores
Para que el proceso no se convierta en una mera formalidad, existe un consejo independiente de seguridad que lo supervisa. Vigila todo el trabajo, recibe los informes sin partes tachadas y actúa como mediador si las partes discrepan. Si un auditor y la empresa no coinciden, por ejemplo, en la evaluación de un riesgo, OpenAI no tendrá que resolverlo por su cuenta.
Los auditores publican sus conclusiones por sí mismos. Pero la compañía dispone de palancas: OpenAI puede tachar material confidencial y retrasar la publicación para corregir primero los riesgos detectados. Por un lado, es razonable: no tiene sentido publicar la descripción de una vulnerabilidad mientras siga abierta. Por otro, aquí estará la principal frontera de confianza. Solo la práctica mostrará con qué frecuencia y durante cuánto tiempo se retrasarán los informes.
OpenAI reconoce que al principio habrá fricciones. Ya piensa en nuevas revisiones, incluidas algunas que abordarán la cultura corporativa y los procesos internos. Es decir, a los auditores podrían pedirles que examinen no solo los modelos, sino también cómo toma decisiones la empresa.
Qué significa para la industria
Para los desarrolladores y los responsables de producto que construyen sobre los modelos de OpenAI, la noticia es sobre todo una señal. No implica cambios directos en la API. Pero muestra hacia dónde se mueve el mercado: los grandes laboratorios empiezan a respaldar sus declaraciones de seguridad con revisiones externas, y no solo con sus propias pruebas.
Para los fundadores y los equipos que desarrollan sus propios modelos o agentes, es además una referencia. Si los reguladores y los clientes se acostumbran a que el laboratorio líder tenga una auditoría externa con acceso al código y a los datos, la pregunta «¿quién os ha revisado a vosotros?» llegará también al resto. Pensar de antemano cómo mostrar a especialistas externos los registros, la monitorización y los resultados de las evaluaciones será una práctica útil.
Hay también límites honestos. Por ahora es un anuncio: no hay resultados de las revisiones y no se sabe qué encontrarán los auditores. Participan organizaciones que OpenAI ha elegido por sí misma. El derecho a editar los informes y a retrasarlos sigue en manos de la compañía. Por eso, el valor real del programa se juzgará por las primeras publicaciones: cuánta concreción tendrán y cuán críticas serán sus conclusiones.
Por ahora, la conclusión principal es esta: por primera vez, especialistas externos tienen acceso directo a modelos no publicados, código y datos de uno de los principales laboratorios de IA. Lo que venga después dependerá de lo honesto que resulte el funcionamiento de este esquema.
- 21 nov 2026Matemático de Anthropic afirma que Claude le ayudó a demostrar la hipótesis de Riemann en seis semanas
- 21 nov 2026La startup Osmo entrena una IA para oler con 10 millones de valoraciones humanas y genera fragancias a partir de texto
- 21 nov 2026Corea del Norte presenta su primer chatbot, «Fuente de Sabiduría»: solo ciencia, sin política
- 21 nov 2026OpenAI abre ChatGPT Spaces a los suscriptores de Plus: documentos compartidos con IA
Preguntas frecuentes sobre la noticia
¿Qué se sabe sobre Quién revisa qué?
El programa incluye a Apollo Research, METR, Transluce y Goodfire. Cada una tiene una tarea propia. Apollo Research investiga si los modelos trabajan en secreto contra las intenciones de sus desarrolladores. METR analiza los casos de comportamiento incorrecto de la IA en el mayor entrenamiento con aprendizaje por refuerzo. Así se denomina el método en el que un modelo aprende a partir de «recompensas» por las acciones correctas.
Cómo se controla a los auditores?
Para que el proceso no se convierta en una mera formalidad, existe un consejo independiente de seguridad que lo supervisa. Vigila todo el trabajo, recibe los informes sin partes tachadas y actúa como mediador si las partes discrepan. Si un auditor y la empresa no coinciden, por ejemplo, en la evaluación de un riesgo, OpenAI no tendrá que resolverlo por su cuenta. Los auditores publican sus conclusiones por sí mismos.
¿Qué se sabe sobre Qué significa para la industria?
Para los desarrolladores y los responsables de producto que construyen sobre los modelos de OpenAI, la noticia es sobre todo una señal. No implica cambios directos en la API. Pero muestra hacia dónde se mueve el mercado: los grandes laboratorios empiezan a respaldar sus declaraciones de seguridad con revisiones externas, y no solo con sus propias pruebas. Para los fundadores y los equipos que desarrollan sus propios modelos o agentes, es además una referencia.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.