Pentágono vs. Anthropic: ¿quién fijará las reglas para la AI militar?

Pentágono versus Anthropic: ¿Quién Establecerá las Reglas para la IA Militar?

Un conflicto tenso entre el Departamento de Defensa de EE.UU. y la startup Anthropic ha alcanzado un punto crítico, planteando una pregunta aguda pero crucial: ¿quién debe establecer el marco para el uso de inteligencia artificial con fines militares—el poder ejecutivo, las empresas privadas, o el Congreso y un proceso democrático más amplio? La situación que rodea la negativa de Anthropic de proporcionar al Pentágono acceso sin restricciones a sus sistemas de IA, incluida la capacidad de usarlos para vigilancia doméstica y orientación de armas autónomas, ha revelado profundos desacuerdos sobre los enfoques para regular esta tecnología prometedora.

El conflicto estalló cuando el Secretario de Defensa Pete Hegseth, según informes, dio al CEO de Anthropic, Dario Amodei, un ultimátum: o la empresa elimina las restricciones al uso de sus sistemas de IA por parte del Departamento de Defensa, o enfrenta consecuencias. Anthropic se negó a cruzar dos líneas fundamentadas: permitir que sus modelos se utilizaran para vigilancia doméstica de ciudadanos estadounidenses y para orientación militar completamente autónoma. Hegseth, a su vez, expresó su desacuerdo con lo que llamó "restricciones ideológicas" incorporadas en los sistemas comerciales de IA, argumentando que determinar aplicaciones militares legítimas debe ser responsabilidad del gobierno, no del proveedor. "No utilizaremos modelos de IA que no le permitan librar guerras", afirmó en una conferencia reciente.

En esencia, esta disputa puede verse como un desacuerdo sobre adquisiciones. En una economía de mercado, el liderazgo militar estadounidense determina qué productos y servicios desea adquirir, y las empresas deciden qué están dispuestas a vender y en qué términos. Ninguno de los lados puede decirse que está equivocado cuando toma su posición.

Si un producto no cumple con las necesidades operativas, el gobierno puede recurrir a otro proveedor. Si una empresa cree que ciertos usos de su tecnología son inseguros, prematuros o incompatibles con sus valores o nivel de riesgo aceptable, puede negarse a proporcionarlos. Por ejemplo, una coalición de empresas firmó una carta abierta comprometiéndose a no utilizar robots de propósito general con fines militares.

Tal simetría básica es una característica inherente de un mercado libre.

La situación se vuelve más compleja y preocupante cuando se trata de designar a Anthropic como un "riesgo de la cadena de suministro". Esta herramienta está destinada a abordar amenazas genuinas a la seguridad nacional, como las acciones de adversarios extranjeros. No debe utilizarse para incluir en la lista negra a una empresa estadounidense por negarse a aceptar los términos de contrato preferidos ofrecidos por el gobierno.

Usar este poder de tal manera representa un cambio significativo—de un desacuerdo sobre adquisiciones a la aplicación de una palanca coercitiva. Hegseth anunció que "inmediatamente, ningún contratista, proveedor o socio que realice negocios con el Departamento de Defensa de EE.UU.

puede realizar ninguna actividad comercial con Anthropic". Estas acciones casi ciertamente enfrentarán desafíos legales, pero elevan las apuestas mucho más allá de la pérdida de un único contrato con el Pentágono.

También es importante distinguir entre dos cuestiones significativas planteadas por Anthropic. La primera—la oposición a la vigilancia doméstica de ciudadanos estadounidenses—toca derechos y libertades bien establecidos. La segunda—la negativa a la orientación de armas autónomas—implica consideraciones éticas y prácticas más complejas sobre la responsabilidad de la acción militar y el riesgo de escalada no intencionada. Ambas cuestiones requieren una discusión pública profunda y regulación legislativa, no decisiones a puerta cerrada entre funcionarios de defensa y empresas tecnológicas.

Este conflicto subraya la necesidad aguda de establecer un marco legislativo claro y supervisión democrática del desarrollo y aplicación de inteligencia artificial militar. En lugar de depender de ultimátums y mecanismos ocultos como designar un "riesgo de la cadena de suministro", el Congreso debe asumir el liderazgo en el desarrollo de reglas transparentes. Estas reglas deben garantizar que el avance de tecnologías de vanguardia en la esfera militar no ocurra a expensas de las libertades civiles y los principios éticos.

El equilibrio entre la necesidad de mantener capacidad de defensa y proteger derechos fundamentales de los ciudadanos es críticamente importante, y lograrlo requiere un diálogo abierto y supervisión legislativa responsable, no decisiones unilaterales del poder ejecutivo o de los gigantes tecnológicos.