OpenAI despide a tres investigadores de seguridad, que responden con una carta abierta

La semana pasada, OpenAI anunció el despido de tres empleados. La compañía sostiene que una investigación interna detectó una infracción de las normas de acceso a información sensible y de tratamiento de esta: según su versión, los empleados compartieron datos confidenciales con una organización externa que evalúa la seguridad de la IA, y lo hicieron al margen de los procedimientos establecidos. Ahora los tres han publicado una carta abierta conjunta. Lo informa el medio chino Jiqizhixin.

Qué se sabe del despido

El estado del caso es, por ahora, el siguiente: hay una postura oficial de la compañía y una respuesta de los despedidos. No existe confirmación independiente de los hechos. El artículo de Jiqizhixin nombra a dos de los tres. Jasmine Wang trabajaba en el alineamiento de modelos (alignment). El segundo empleado realizaba investigación en seguridad y participaba en el trabajo técnico en la frontera entre OpenAI y los evaluadores externos. El nombre del tercero y el texto completo de la carta no aparecen en el fragmento disponible, por lo que no resumimos lo que no hemos visto.

Los parámetros clave de la historia:

• Despedidos: 3 empleados.
• Motivo formal: incumplimiento de las normas de acceso a información sensible y de trabajo con ella.
• Esencia de la acusación: entrega de datos confidenciales a un evaluador externo de AI safety al margen de los procedimientos.
• Perfil de los despedidos: alignment e investigación en seguridad, incluido el contacto con auditores externos.
• Reacción: una carta abierta conjunta en la que los despedidos exponen su versión de los hechos.

Por qué el caso es delicado

La evaluación externa de la seguridad depende del acceso. Para que un grupo independiente compruebe si un modelo tiene capacidades peligrosas, necesita datos sobre el comportamiento del sistema, resultados de pruebas y, a menudo, información sobre decisiones internas. La compañía, por su parte, tiene un interés legítimo en controlar qué sale y a quién. Cada intercambio debe discurrir por canales acordados, con acuerdos de confidencialidad y un conjunto limitado de materiales.

Los despedidos trabajaban precisamente en esa frontera. Por eso, lo más probable es que la disputa no gire en torno al hecho mismo de haber contactado con evaluadores externos, sino a dos cuestiones: qué se transmitió exactamente y si se respetó el procedimiento. La versión de OpenAI se resume en una infracción del reglamento. Lo que sostienen los empleados se sabrá cuando se conozca el texto completo de la carta. Mientras ambas partes describan los hechos de forma distinta, es pronto para concluir quién tiene razón.

Hay también una dimensión reputacional. A los laboratorios que hablan en público de seguridad se les pregunta con regularidad qué ocurre con los empleados que señalan problemas. El despido de personas de los equipos de alignment y safety, aunque se base en motivos formalmente procedimentales, se leerá inevitablemente como una señal para el mercado, los reguladores y los futuros candidatos.

Qué conviene verificar a continuación

Para los lectores que siguen la industria, resulta útil distinguir tres niveles. Primero: qué muestran los materiales de la carta, si incluyen documentos o una cronología. Segundo: si OpenAI responderá públicamente y qué hechos aportará, más allá de la fórmula general sobre la infracción de las normas. Tercero: cómo reaccionarán los propios evaluadores externos, ya que la otra parte de la transferencia de datos sigue en silencio.

Los equipos que diseñan procesos de auditoría externa de modelos deberían contrastarlos con su propia práctica. Hacen falta canales escritos para la transferencia de datos, niveles de acceso claros y un procedimiento comprensible para los empleados que crean que la compañía oculta riesgos. Si no existe una vía interna legal, los conflictos acabarán saliendo al exterior en forma de despidos y cartas abiertas.