OpenAI приостановила разработку модели Astra из-за угроз кибербезопасности

OpenAI ha congelado parte del desarrollo de su futuro modelo Astra, alegando preocupaciones en materia de ciberseguridad. La empresa no especificó qué aspectos han sido pausados ni por cuánto tiempo.

Qué ha pausado OpenAI

OpenAI anunció una desaceleración temporal del trabajo en varios componentes de Astra tras una evaluación interna que identificó riesgos potenciales relacionados con las capacidades del modelo en ciberseguridad. Se trata de una congelación parcial, no total, del proyecto.

• El desarrollo de Astra se ha ralentizado, pero no detenido por completo
• El motivo son las preocupaciones sobre las capacidades de ciberseguridad del modelo
• OpenAI no ha revelado qué funciones concretas están sujetas a restricciones
• No se ha comunicado ningún plazo público para la reanudación del desarrollo a plena escala

No es la primera vez que OpenAI decide frenar el desarrollo por razones de seguridad. Anteriormente, la empresa retrasó el lanzamiento de determinadas capacidades de sus modelos cuando las revisiones internas detectaron comportamientos no deseados antes del lanzamiento público.

Por qué la ciberseguridad es una categoría especial de riesgo

La ciberseguridad se encuentra entre las áreas de aplicación más sensibles de los modelos de lenguaje avanzados. En teoría, un modelo sofisticado podría reducir significativamente la barrera técnica para llevar a cabo ciberataques — precisamente esto es lo que preocupa a los investigadores de seguridad.

En sus documentos públicos sobre Evaluaciones de Capacidades Peligrosas (Dangerous Capability Evaluations), OpenAI sitúa la ciberseguridad en una categoría crítica de riesgo — al mismo nivel que las armas biológicas y nucleares. Según este enfoque, los modelos que puedan mejorar sustancialmente la eficacia de los ciberataques no deberían ponerse a disposición del público sin medidas de protección adicionales.

El espectro concreto de amenazas que preocupa a los investigadores:

• Generación automatizada de código malicioso funcional
• Descubrimiento de vulnerabilidades de día cero en software de uso generalizado
• Creación de mensajes de phishing altamente convincentes
• Planificación de ataques contra infraestructuras críticas

Cómo funciona la evaluación de seguridad antes del lanzamiento

Antes de cada lanzamiento importante, laboratorios como OpenAI, Anthropic y Google DeepMind realizan lo que se conoce como red-team testing: especialistas intentan deliberadamente utilizar el modelo con fines destructivos. El objetivo es identificar riesgos antes de que los usuarios reales se encuentren con ellos.

Fue precisamente durante dichas evaluaciones cuando se descubrieron las capacidades preocupantes de Astra. Según declaró OpenAI, la empresa optó por pausar los aspectos relevantes del desarrollo en lugar de publicarlos con riesgos sin resolver.

Ya han ocurrido casos similares en el sector: diversas capacidades de los modelos estrella fueron retrasadas o restringidas precisamente tras la identificación de comportamientos no deseados durante las pruebas internas — mucho antes de que esas decisiones se hicieran públicas.

Qué significa esto

El anuncio público de OpenAI sobre la desaceleración del desarrollo de Astra por razones de seguridad es una señal de madurez en la gestión de riesgos. La empresa prefirió comunicar abiertamente las restricciones en lugar de ocultarlas o lanzar funciones controvertidas sin la revisión adecuada. Para los usuarios que esperan Astra, esto probablemente significa un retraso en el lanzamiento — pero también un mayor nivel de confianza en la seguridad del producto final.