OpenAI busca frenos: por fin se cubre el puesto de director de preparación

OpenAI ha nombrado a un director de preparación, un cargo que suena a película de Hollywood sobre la rebelión de las máquinas. Mientras Sam Altman vende al mundo la idea de un futuro en el que la IA resuelve todos los problemas de la humanidad, dentro de la empresa saben bien que ese futuro puede llegar demasiado rápido y no exactamente como estaba previsto. Poner a alguien en un puesto responsable de la seguridad y la «preparación» ante los riesgos no es solo un trámite burocrático, sino un intento de construir un sistema de contrapesos en una organización a la que a menudo se acusa de ir con prisas.

El contexto importa más que el nombramiento en sí. Después de que Ilya Sutskever y su equipo de «superalineamiento» desaparecieran prácticamente del radar tras el golpe de noviembre en OpenAI, surgió una pregunta lógica: ¿quién vigila ahora que la IA no enseñe a un escolar a fabricar una bomba en el garaje? La respuesta llegó en forma del Preparedness Framework. Es un reglamento interno que describe cómo la compañía evaluará sus modelos en cuatro categorías de riesgo: ciberseguridad, amenazas químicas y biológicas, seguridad nuclear y, por supuesto, el viejo conocido «comportamiento autónomo».

La esencia del marco es sencilla: si un modelo recibe la calificación de «riesgo alto» en cualquiera de las categorías, no puede lanzarse para uso público. El director de preparación pasa a ser quien tiene la mano en el interruptor. Tendrá que equilibrar el deseo de los inversores de lanzar el producto cuanto antes con la necesidad de garantizar que no hundirá los mercados financieros ni empezará a manipular la mente de millones de usuarios.

¿Por qué ahora? Es sencillo: GPT-5 asoma en el horizonte. Cada nueva generación de modelos muestra un crecimiento exponencial de capacidades, y los reguladores de EE. UU. y Europa ya no están dispuestos a creer a OpenAI bajo palabra. Quieren personas concretas responsables de procesos concretos. También es una jugada de relaciones públicas excelente: mostrar que la empresa madura y está lista para jugar con reglas, aunque se las escriba ella misma.

En realidad, asistimos a un intento de legitimar el desarrollo de sistemas superpotentes. Si tienes un «director de preparación», estás listo para cualquier escenario, ¿verdad? Al menos así debe parecerlo a ojos del público. Pero queda abierta la pregunta: ¿podrá una sola persona, incluso con el título más temible, detener una máquina multimillonaria si de repente decide que las reglas ya no le sirven? En una industria donde la velocidad de lanzamiento de actualizaciones determina la supervivencia, la seguridad suele convertirse en un estorbo molesto que se quiere esquivar por el arcén.

Lo esencial: OpenAI levanta la fachada de una corporación responsable antes de lanzar su próximo gran modelo. ¿Será la IA más segura por ello o se trata solo de un trabajo magistral de abogados y del departamento de recursos humanos?