OpenAI explica los incidentes ocurridos durante evaluaciones externas de ciberseguridad de sus modelos

OpenAI ha publicado en su blog oficial un análisis de los incidentes recientes relacionados con evaluaciones de ciberseguridad realizadas por terceros, y ha anunciado un nuevo paquete de medidas para reforzar los procesos de prueba de modelos de IA.

Qué ocurrió durante las revisiones de terceros

La compañía reconoció que, durante evaluaciones externas de ciberseguridad recientes, se produjeron incidentes que requerían una explicación oficial. Las evaluaciones de seguridad por terceros son una práctica estándar en el sector: investigadores y organizaciones independientes obtienen acceso a los modelos para detectar vulnerabilidades antes de que lleguen a productos reales.

• Los incidentes se produjeron durante evaluaciones de ciberseguridad realizadas por terceros (third-party)
• OpenAI decidió por iniciativa propia ofrecer una aclaración pública de la situación a través de su blog oficial
• La compañía anunció medidas de protección actualizadas para los procesos de prueba

Según la información del blog oficial de OpenAI, la publicación pretende aportar transparencia sobre cómo la compañía interactúa con los investigadores de seguridad externos y qué mecanismos de control existen durante las revisiones.

Por qué es importante para la seguridad de la IA

Las evaluaciones de ciberseguridad por terceros son un elemento clave del desarrollo responsable de grandes modelos de lenguaje. Organizaciones como METR y Apollo Research, junto con organismos gubernamentales de Estados Unidos y el Reino Unido, realizan con regularidad este tipo de revisiones para valorar si los modelos pueden ayudar a crear ciberarmas, llevar a cabo ataques autónomos o eludir barreras de protección.

«Tenemos la obligación de ser transparentes en materia de seguridad, tanto con nuestros socios de evaluación como con la sociedad en su conjunto», se afirma en el comunicado oficial de

OpenAI.

Las medidas de protección actualizadas que ha anunciado OpenAI están orientadas a reducir los riesgos durante los propios procesos de prueba, es decir, en la fase en la que los investigadores externos interactúan con versiones de los modelos potencialmente vulnerables.

Qué significa

La publicación abierta de OpenAI apunta a un endurecimiento de los estándares de transparencia en la industria de la IA: las compañías se ven cada vez más obligadas a explicar no solo qué son capaces de hacer sus modelos, sino también cómo se prueban en materia de seguridad y qué ocurre cuando algo sale mal en esos procesos.