Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAPI / Producto · Listo para usarOpenAI Blog→ original

OpenAI blindó el razonamiento de GPT-6.2 Astra: el éxito del robo cayó del 54% al 0,2%

Si alguien exprime un modelo potente a través de la API y entrena el suyo con sus respuestas, la copia hereda las habilidades pero no las restricciones, por ejemplo, puede ayudar en ciberataques. OpenAI cierra ese camino para las cadenas de razonamiento, los pasos ocultos que da el modelo antes de responder. En una prueba con atacantes automáticos, el éxito al extraer el razonamiento de una solicitud anterior cayó del 54,0% en GPT-6 Astra al 0,2% en GPT-6.2 Astra. Si ofreces tu modelo mediante API, revisa también las fugas en los argumentos de las llamadas a herramientas.

Procesado por IA desde OpenAI Blog; editado por Hamidun News
OpenAI blindó el razonamiento de GPT-6.2 Astra: el éxito del robo cayó del 54% al 0,2%
Fuente: OpenAI Blog. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalOpenAI Blog ↗
Editor jefe
Dato clave #1Para la solicitud actual, el éxito de los ataques bajó del 22,9% al 0,9%
Bloqueoscada semana, de miles a decenas de miles de cuentas
Dato clave #3En las pruebas de ciberseguridad, el alumno entrenado con cadenas exactas suele superar al entrenado con resúmenes

Imagina que llevas años construyendo un modelo caro y con restricciones estrictas: ayuda a los defensores a encontrar vulnerabilidades en el código, pero se niega a colaborar en ataques reales. Y entonces alguien lo consulta de forma masiva a través de la API, recopila las respuestas y entrena con ellas su propio modelo. Las habilidades quedan copiadas; las restricciones, no.

OpenAI llama a esto destilación adversarial y el 20 de noviembre explicó cómo la combate. La cifra principal: en una prueba en la que atacantes automáticos de IA intentaban sacar del modelo su razonamiento oculto de la solicitud anterior, la proporción de ataques exitosos cayó del 54,0% en GPT-6 Astra al 0,2% en GPT-6.2 Astra.

Esa proporción aparece en la fuente como ASR, es decir, la tasa de éxito de los ataques: cuanto más baja, mejor la protección. Si ofreces tu modelo al exterior mediante API, esto es una guía de actuación: el razonamiento hay que protegerlo igual que las respuestas finales.

Por qué robar los «pensamientos» y no las respuestas

La destilación es en sí misma una técnica habitual: un modelo (el «alumno») aprende de los datos de otro (el «maestro»), por ejemplo de sus respuestas, de su razonamiento o de las valoraciones sobre qué respuestas son mejores. Los problemas empiezan cuando se hace sin permiso. Además de las cuestiones de propiedad intelectual, el alumno adopta las capacidades, pero no hereda las restricciones de seguridad. Es especialmente peligroso en ámbitos de doble uso como la ciberseguridad y la biología: un modelo que ayuda a encontrar vulnerabilidades también puede ayudar a explotarlas.

Las cadenas de razonamiento resultan de especial interés para los atacantes: son los pasos intermedios que el modelo genera internamente antes de responder. A veces contienen información que no aparece en el texto final, por lo que son datos de entrenamiento valiosos.

OpenAI lo comprobó con habilidades de ciberseguridad. Un mismo alumno preentrenado se ajustó con trayectorias de modelos de nivel Astra: tareas de programación y de ciberseguridad defensiva con todos los pasos, llamadas a herramientas y respuestas finales. Como variante base se tomó lo que normalmente ve el usuario: respuestas, resúmenes breves del razonamiento y el trabajo con herramientas. Se la comparó con un alumno que recibió las cadenas de razonamiento exactas.

Tras el ajuste fino habitual, el alumno con cadenas exactas resultó, en conjunto, más fuerte que el alumno con resúmenes. Después de una ronda ligera de aprendizaje por refuerzo en entornos de ciberseguridad y programación, siguió ganando con el mayor presupuesto de inferencia en las dos pruebas presentadas, mientras que el alumno con resúmenes lideraba con presupuestos menores. La conclusión de la compañía: proteger las cadenas exactas puede limitar la transferencia de habilidades de ciberseguridad, incluso cuando las tareas de origen están permitidas por la política. OpenAI aún estudia cuántas habilidades se transfieren a otros alumnos y con otras recetas de entrenamiento.

Cómo funciona la protección

La protección opera en dos niveles. El primero, el nivel de la solicitud:

  • el modelo se reentrena con ataques reales exitosos procedentes del red-teaming automático interno, de investigaciones y de informes de investigadores externos: se niega a revelar el razonamiento protegido, pero sigue explicando con normalidad sus decisiones cuando la petición es legítima;
  • los clasificadores de entrada detectan los intentos de extraer razonamiento, y los de salida buscan fugas en los mensajes del asistente y en los argumentos de las llamadas a herramientas, tanto en respuestas en streaming como en las que no lo son. Los argumentos importan porque el modelo puede «volcar» el razonamiento ahí y no mostrarlo en la respuesta final;
  • en la API, el razonamiento protegido está ligado al historial de la conversación. Si se reescribe un mensaje anterior, la API descarta el razonamiento que vino después. Las familias de modelos antiguas con protección débil no pueden leer el razonamiento de GPT-6.2 Astra ni de Sol. También se han reforzado los límites entre usuarios, espacios de trabajo, organizaciones y familias de modelos, y se ha cerrado una vía que podía exponer el razonamiento cifrado de terceros.

El segundo, el nivel de campaña. OpenAI busca patrones en las señales de las solicitudes y las cuentas que delaten una extracción coordinada, y bloquea redes enteras de cuentas. Cada caso analizado se convierte en un ejemplo para entrenar y probar las defensas, y la compañía comparte los indicadores de compromiso con otros proveedores. Según sus datos, los bloqueos semanales afectan de miles a decenas de miles de cuentas, y este verano el ritmo aumentó de forma notable.

Qué mostraron las mediciones

La evaluación se hizo con una prueba adaptativa de «caja negra»: los atacantes ven el sistema igual que un usuario externo y ajustan sus técnicas a las respuestas. Así se detectan debilidades que pasan por alto las pruebas estáticas, con un conjunto fijo de ataques antiguos. El resultado es el promedio de seis modelos atacantes. En la extracción del razonamiento de la solicitud anterior, el éxito cayó del 54,0% en GPT-6 Astra al 0,2% en GPT-6.2 Astra. Para la solicitud actual, bajó del 22,9% al 0,9%. OpenAI aplica ahora parte de las mejoras de protección también a GPT-6 Astra.

Hay salvedades: se trata de una evaluación interna de la propia compañía, y mide la resistencia a clases de ataques conocidas, no a las futuras.

OpenAI también presenta la destilación como una cuestión de seguridad nacional: un actor extranjero que reproduzca las capacidades de un modelo estadounidense puede desplegarlas sin protecciones. En febrero, la compañía informó al Congreso de indicios de intentos de DeepSeek de destilar modelos de frontera estadounidenses.

La conclusión práctica para quienes ofrecen modelos mediante API: revisa las fugas de razonamiento en los mensajes y en los argumentos de las herramientas, no permitas reutilizar el razonamiento cifrado entre conversaciones y modelos, guarda los ataques detectados como pruebas de regresión y complementa la protección a nivel de solicitud con la búsqueda de campañas por cuentas. El razonamiento en bruto del modelo vale más que casi todo lo demás que entrega tu API, así que conviene tratarlo como datos sensibles.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Por qué robar los «pensamientos» y no las respuestas?

La destilación es en sí misma una técnica habitual: un modelo (el «alumno») aprende de los datos de otro (el «maestro»), por ejemplo de sus respuestas, de su razonamiento o de las valoraciones sobre qué respuestas son mejores. Los problemas empiezan cuando se hace sin permiso. Además de las cuestiones de propiedad intelectual, el alumno adopta las capacidades, pero no hereda las restricciones de seguridad.

Cómo funciona la protección?

La protección opera en dos niveles. El primero, el nivel de la solicitud: el modelo se reentrena con ataques reales exitosos procedentes del red-teaming automático interno, de investigaciones y de informes de investigadores externos: se niega a revelar el razonamiento protegido, pero sigue explicando con normalidad sus decisiones cuando la petición es legítima; los clasificadores de entrada detectan los intentos de extraer razonamiento, y los de salida buscan fugas en los mensajes del asistente…

¿Qué se sabe sobre Qué mostraron las mediciones?

La evaluación se hizo con una prueba adaptativa de «caja negra»: los atacantes ven el sistema igual que un usuario externo y ajustan sus técnicas a las respuestas. Así se detectan debilidades que pasan por alto las pruebas estáticas, con un conjunto fijo de ataques antiguos. El resultado es el promedio de seis modelos atacantes. En la extracción del razonamiento de la solicitud anterior, el éxito cayó del 54,0% en GPT-6 Astra al 0,2% en GPT-6.2 Astra. Para la solicitud actual, bajó del 22,9% al 0,9%.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…