El Pentágono probó modelos de OpenAI a través de Microsoft, eludiendo la prohibición de uso militar

Cuando OpenAI dejó clara en blanco y negro en sus primeros documentos de política de uso la prohibición de aplicación militar de sus modelos, pareció una posición de principios de una de las empresas de IA más influyentes del mundo. Ahora resulta que el Pentágono encontró un camino elegante para eludir esto mucho antes de que la empresa revisara oficialmente sus normas.

Según información de fuentes consultadas por la revista Wired, el Departamento de Defensa de EE.UU. estaba realizando experimentos con tecnologías de OpenAI, obteniendo acceso no directamente, sino a través de la plataforma en la nube Azure de Microsoft.

El esquema era simple y al mismo tiempo formalmente impecable: Microsoft, que ha invertido miles de millones de dólares en OpenAI, tiene derecho de licencia para usar los modelos de la empresa en sus propios productos y servicios. Azure proporciona a clientes corporativos y gubernamentales acceso a estos modelos dentro de su ecosistema en la nube. El Pentágono es un cliente antiguo e importante de Microsoft.

Todos los eslabones de la cadena están en su lugar, y ninguno de ellos viola formalmente la letra de la prohibición de OpenAI, que se aplicaba al uso directo de sus servicios con fines militares.

El contexto de esta historia tiene sus raíces en una contradicción fundamental incrustada en el propio modelo de negocio de OpenAI. La empresa, fundada en 2015 como un laboratorio de investigación sin ánimo de lucro con la misión de garantizar el desarrollo seguro de la inteligencia artificial para beneficio de la humanidad, se transformó gradualmente en un gigante comercial. La asociación con Microsoft, comenzando con una inversión de mil millones de dólares en 2019 y evolucionando hacia una alianza estratégica multimillonaria, se convirtió en el motor de esta transformación. Pero también creó una brecha estructural: al transferir licencias de sus modelos a Microsoft, OpenAI perdió efectivamente el control total sobre quién y cómo se proporcionarían posteriormente esos modelos.

Técnicamente, el Pentágono podría usar los modelos de OpenAI a través de Azure para una amplia gama de tareas — desde el procesamiento de datos de inteligencia y análisis de documentos hasta la planificación de operaciones logísticas y modelado de escenarios. El departamento militar de EE.UU. hace tiempo que demuestra interés en grandes modelos de lenguaje como herramienta para mejorar la eficiencia de las estructuras de mando. Y aunque la naturaleza exacta de los experimentos no se revela, el simple hecho de su realización eludiendo la política pública de OpenAI habla por sí solo.

En enero de 2024, OpenAI cambió silenciosamente su política de uso aceptable, eliminando la prohibición explícita de aplicaciones militares y de defensa. La empresa explicó esta decisión como la necesidad de un enfoque más matizado, enfatizando que sigue vigente la prohibición de uso para causar daño a las personas. Los críticos, sin embargo, vieron en esto la legalización de una práctica ya existente — una especie de reconocimiento de una realidad en la que las restricciones éticas resultaron ser más débiles que los intereses comerciales y la presión gubernamental.

Esta historia expone un problema sistémico que va mucho más allá de una sola empresa. La industria moderna de IA se construye sobre relaciones complejas de asociación y licenciamiento, donde las tecnologías de un desarrollador se integran en los productos y plataformas de decenas de otras empresas. En tal ecosistema, las políticas éticas de un desarrollador individual se convierten en declaraciones de intención en lugar de restricciones reales.

Si un modelo es accesible a través de la API de un socio, una prohibición sobre ciertos tipos de uso se convierte en una cuestión de confianza, no de control técnico. Microsoft, por su parte, tiene una larga historia de cooperación con el Pentágono y nunca compartió la retórica pacifista de la OpenAI inicial — el contrato JEDI y su sucesor JWCC por decenas de miles de millones de dólares lo demuestran.

Para toda la industria de la inteligencia artificial, la lección es transparente y desalentadora. Los marcos éticos no respaldados por mecanismos de control técnico y acuerdos legalmente vinculantes con socios siguen siendo buenas intenciones. Mientras que las empresas de IA construyen sus ecosistemas a través del licenciamiento y plataformas en la nube, el control real sobre el uso final de las tecnologías se erosionará inevitablemente. Y la pregunta de si los sistemas de IA más poderosos del mundo deben funcionar para departamentos militares finalmente sale del ámbito de la ética corporativa al ámbito de la geopolítica, donde las respuestas se determinan no por las misiones de las startups, sino por la lógica de la competencia entre grandes potencias.