OpenAI blindó el razonamiento de GPT-6.2 Astra: el éxito del robo cayó del 54% al 0,2%
Si alguien exprime un modelo potente a través de la API y entrena el suyo con sus respuestas, la copia hereda las habilidades pero no las restricciones, por ejemplo, puede ayudar en ciberataques. OpenAI cierra ese camino para las cadenas de razonamiento, los pasos ocultos que da el modelo antes de responder. En una prueba con atacantes automáticos, el éxito al extraer el razonamiento de una solicitud anterior cayó del 54,0% en GPT-6 Astra al 0,2% en GPT-6.2 Astra. Si ofreces tu modelo mediante API, revisa también las fugas en los argumentos de las llamadas a herramientas.
Procesado por IA desde OpenAI Blog; editado por Hamidun News
Imagina que llevas años construyendo un modelo caro y con restricciones estrictas: ayuda a los defensores a encontrar vulnerabilidades en el código, pero se niega a colaborar en ataques reales. Y entonces alguien lo consulta de forma masiva a través de la API, recopila las respuestas y entrena con ellas su propio modelo. Las habilidades quedan copiadas; las restricciones, no.
OpenAI llama a esto destilación adversarial y el 20 de noviembre explicó cómo la combate. La cifra principal: en una prueba en la que atacantes automáticos de IA intentaban sacar del modelo su razonamiento oculto de la solicitud anterior, la proporción de ataques exitosos cayó del 54,0% en GPT-6 Astra al 0,2% en GPT-6.2 Astra.
Esa proporción aparece en la fuente como ASR, es decir, la tasa de éxito de los ataques: cuanto más baja, mejor la protección. Si ofreces tu modelo al exterior mediante API, esto es una guía de actuación: el razonamiento hay que protegerlo igual que las respuestas finales.
Por qué robar los «pensamientos» y no las respuestas
La destilación es en sí misma una técnica habitual: un modelo (el «alumno») aprende de los datos de otro (el «maestro»), por ejemplo de sus respuestas, de su razonamiento o de las valoraciones sobre qué respuestas son mejores. Los problemas empiezan cuando se hace sin permiso. Además de las cuestiones de propiedad intelectual, el alumno adopta las capacidades, pero no hereda las restricciones de seguridad. Es especialmente peligroso en ámbitos de doble uso como la ciberseguridad y la biología: un modelo que ayuda a encontrar vulnerabilidades también puede ayudar a explotarlas.
Las cadenas de razonamiento resultan de especial interés para los atacantes: son los pasos intermedios que el modelo genera internamente antes de responder. A veces contienen información que no aparece en el texto final, por lo que son datos de entrenamiento valiosos.
OpenAI lo comprobó con habilidades de ciberseguridad. Un mismo alumno preentrenado se ajustó con trayectorias de modelos de nivel Astra: tareas de programación y de ciberseguridad defensiva con todos los pasos, llamadas a herramientas y respuestas finales. Como variante base se tomó lo que normalmente ve el usuario: respuestas, resúmenes breves del razonamiento y el trabajo con herramientas. Se la comparó con un alumno que recibió las cadenas de razonamiento exactas.
Tras el ajuste fino habitual, el alumno con cadenas exactas resultó, en conjunto, más fuerte que el alumno con resúmenes. Después de una ronda ligera de aprendizaje por refuerzo en entornos de ciberseguridad y programación, siguió ganando con el mayor presupuesto de inferencia en las dos pruebas presentadas, mientras que el alumno con resúmenes lideraba con presupuestos menores. La conclusión de la compañía: proteger las cadenas exactas puede limitar la transferencia de habilidades de ciberseguridad, incluso cuando las tareas de origen están permitidas por la política. OpenAI aún estudia cuántas habilidades se transfieren a otros alumnos y con otras recetas de entrenamiento.
Cómo funciona la protección
La protección opera en dos niveles. El primero, el nivel de la solicitud:
- el modelo se reentrena con ataques reales exitosos procedentes del red-teaming automático interno, de investigaciones y de informes de investigadores externos: se niega a revelar el razonamiento protegido, pero sigue explicando con normalidad sus decisiones cuando la petición es legítima;
- los clasificadores de entrada detectan los intentos de extraer razonamiento, y los de salida buscan fugas en los mensajes del asistente y en los argumentos de las llamadas a herramientas, tanto en respuestas en streaming como en las que no lo son. Los argumentos importan porque el modelo puede «volcar» el razonamiento ahí y no mostrarlo en la respuesta final;
- en la API, el razonamiento protegido está ligado al historial de la conversación. Si se reescribe un mensaje anterior, la API descarta el razonamiento que vino después. Las familias de modelos antiguas con protección débil no pueden leer el razonamiento de GPT-6.2 Astra ni de Sol. También se han reforzado los límites entre usuarios, espacios de trabajo, organizaciones y familias de modelos, y se ha cerrado una vía que podía exponer el razonamiento cifrado de terceros.
El segundo, el nivel de campaña. OpenAI busca patrones en las señales de las solicitudes y las cuentas que delaten una extracción coordinada, y bloquea redes enteras de cuentas. Cada caso analizado se convierte en un ejemplo para entrenar y probar las defensas, y la compañía comparte los indicadores de compromiso con otros proveedores. Según sus datos, los bloqueos semanales afectan de miles a decenas de miles de cuentas, y este verano el ritmo aumentó de forma notable.
Qué mostraron las mediciones
La evaluación se hizo con una prueba adaptativa de «caja negra»: los atacantes ven el sistema igual que un usuario externo y ajustan sus técnicas a las respuestas. Así se detectan debilidades que pasan por alto las pruebas estáticas, con un conjunto fijo de ataques antiguos. El resultado es el promedio de seis modelos atacantes. En la extracción del razonamiento de la solicitud anterior, el éxito cayó del 54,0% en GPT-6 Astra al 0,2% en GPT-6.2 Astra. Para la solicitud actual, bajó del 22,9% al 0,9%. OpenAI aplica ahora parte de las mejoras de protección también a GPT-6 Astra.
Hay salvedades: se trata de una evaluación interna de la propia compañía, y mide la resistencia a clases de ataques conocidas, no a las futuras.
OpenAI también presenta la destilación como una cuestión de seguridad nacional: un actor extranjero que reproduzca las capacidades de un modelo estadounidense puede desplegarlas sin protecciones. En febrero, la compañía informó al Congreso de indicios de intentos de DeepSeek de destilar modelos de frontera estadounidenses.
La conclusión práctica para quienes ofrecen modelos mediante API: revisa las fugas de razonamiento en los mensajes y en los argumentos de las herramientas, no permitas reutilizar el razonamiento cifrado entre conversaciones y modelos, guarda los ataques detectados como pruebas de regresión y complementa la protección a nivel de solicitud con la búsqueda de campañas por cuentas. El razonamiento en bruto del modelo vale más que casi todo lo demás que entrega tu API, así que conviene tratarlo como datos sensibles.
- 20 nov 2026METR actualiza su célebre gráfico de IA: la duración de las tareas se duplica cada 4 meses, pero el criterio sigue fallando
- 20 nov 2026La IA ensambla moléculas con un 95,4% de puntos, pero en la elección de candidatos a fármaco apenas llega a cerca del 50%
- 20 nov 2026Nvidia, cerca de comprar Inception por $500 millones para impulsar los LLM de difusión
- 20 nov 2026En China, las ofertas de empleo de las profesiones expuestas a la IA cayeron 10 puntos porcentuales más rápido que el resto
Preguntas frecuentes sobre la noticia
¿Qué se sabe sobre Por qué robar los «pensamientos» y no las respuestas?
La destilación es en sí misma una técnica habitual: un modelo (el «alumno») aprende de los datos de otro (el «maestro»), por ejemplo de sus respuestas, de su razonamiento o de las valoraciones sobre qué respuestas son mejores. Los problemas empiezan cuando se hace sin permiso. Además de las cuestiones de propiedad intelectual, el alumno adopta las capacidades, pero no hereda las restricciones de seguridad.
Cómo funciona la protección?
La protección opera en dos niveles. El primero, el nivel de la solicitud: el modelo se reentrena con ataques reales exitosos procedentes del red-teaming automático interno, de investigaciones y de informes de investigadores externos: se niega a revelar el razonamiento protegido, pero sigue explicando con normalidad sus decisiones cuando la petición es legítima; los clasificadores de entrada detectan los intentos de extraer razonamiento, y los de salida buscan fugas en los mensajes del asistente…
¿Qué se sabe sobre Qué mostraron las mediciones?
La evaluación se hizo con una prueba adaptativa de «caja negra»: los atacantes ven el sistema igual que un usuario externo y ajustan sus técnicas a las respuestas. Así se detectan debilidades que pasan por alto las pruebas estáticas, con un conjunto fijo de ataques antiguos. El resultado es el promedio de seis modelos atacantes. En la extracción del razonamiento de la solicitud anterior, el éxito cayó del 54,0% en GPT-6 Astra al 0,2% en GPT-6.2 Astra. Para la solicitud actual, bajó del 22,9% al 0,9%.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.