Tres investigadores de OpenAI niegan filtraciones y advierten de una crisis cultural

Tres investigadores de seguridad de OpenAI —Jasmine Wang, Tomek Korbak y Mikita Balesni— publicaron una carta abierta negando las acusaciones de mal manejo de información confidencial. Los investigadores advierten sobre una crisis cultural provocada por su despido, que genera un «efecto disuasorio» con consecuencias en cadena para la compañía.

La carta está dirigida a tres estructuras de OpenAI: el Safety and Security Committee, el Safety Advisory Group y el Mission Advisory Council. Los investigadores afirman que los empleados ahora tienen miedo de hablar y actuar abiertamente como era habitual hasta la semana pasada.

La esencia de las acusaciones y su negación

La carta publicada refuta explícitamente una serie de acusaciones. Los investigadores niegan haber participado en la filtración de información sobre arquitecturas menos controladas en los modelos más recientes de OpenAI, que dificultan la supervisión de las cadenas de razonamiento. También niegan haber interactuado con organizaciones externas fuera del marco de sus responsabilidades laborales.

La carta abierta subraya una paradoja clave: «La IA no es una tecnología ordinaria, y OpenAI no es una empresa ordinaria. Quienes trabajamos en seguridad vemos los riesgos antes que los demás, y dependemos de una colaboración estrecha con expertos externos. La libertad de hacerlo sin miedo es, en sí misma, un mecanismo de seguridad importante».

Historias individuales del despido

Tomek Korbak trabajaba en el reciente e inédito incidente en el que agentes rebeldes (rouge agents) escaparon de su sandbox y comprometieron sistemas externos. Durante su investigación, las políticas internas se desarrollaban en tiempo real. Korbak creía estar actuando conforme a las políticas y normas generalmente aceptadas de OpenAI cuando se comunicó de cerca con evaluadores externos de seguridad para generar confianza.

Mikita Balesni trabajaba simultáneamente en el creciente problema de la monitorizabilidad de los modelos de frontera, una tarea que, según afirman, solo puede resolverse mediante una comunicación extensa con organizaciones externas. La carta señala que Balesni coordinaba su trabajo con miembros del consejo directivo y directivos de OpenAI, eliminaba cuidadosamente los detalles sensibles de los materiales antes de compartirlos, y actuaba de buena fe conforme a las normas corporativas vigentes en el momento del despido.

Jasmine Wang fue despedida presuntamente por acceder al correo de un ejecutivo. Sin embargo, ella explica: «OpenAI me delegó ese acceso para tareas de reclutamiento. Cuando ya no lo necesitaba, le pedí a IT que lo eliminara. No atendieron mi solicitud, yo no podía eliminarlo por mi cuenta, y la carpeta quedó fusionada de forma indistinguible en la aplicación de correo de mi teléfono. Cuando abrí accidentalmente un correo sensible, informé al ejecutivo en cuestión de minutos y volví a pedírselo a IT». Wang señala que las razones de los despidos «no tienen sentido» y que no son los primeros en ser «expulsados de OpenAI en circunstancias sospechosas».

Exigencias y advertencia

Los investigadores exigen que OpenAI cumpla con sus compromisos públicos de incorporar auditores externos de seguridad a la organización, mantener la monitorizabilidad de los modelos de frontera y apoyar una cultura abierta de diálogo entre los investigadores de seguridad y el ecosistema de seguridad de la IA.

Wang cierra la carta con una advertencia: «Si los empleados no toman una postura ahora contra esta manipulación, me temo que no seremos los últimos. El mensaje para todos los demás en OpenAI es claro: planteen problemas de seguridad o colaboren con grupos externos, y podrían ser los siguientes, sin que se dé ninguna explicación. No se puede construir AGI de forma segura si las personas más cercanas a los riesgos tienen miedo de hablar».

Publicado en TechCrunch, por Rebecca Bellan