Anthropic refuta las acusaciones del Pentágono sobre un posible sabotaje de herramientas de IA durante la guerra

Anthropic niega que la empresa sea capaz de interferir en el funcionamiento de sus herramientas de IA en plena contienda militar. La declaración fue motivada por acusaciones del Departamento de Defensa de EE.UU., que sugirió que el desarrollador de Claude podría teóricamente manipular el comportamiento de los modelos incluso después de su despliegue en condiciones de combate. La lideranza de la empresa insiste en que esto es técnicamente imposible.

La disputa se ha hecho pública en medio del creciente interés del establishment militar estadounidense en sistemas de IA comerciales. En los últimos dos años, el Pentágono ha estado probando activamente modelos de lenguaje grandes para tareas como logística, análisis de datos de inteligencia y planificación de operaciones. Anthropic está entre los proveedores con los que el Departamento de Defensa está negociando o ya colaborando en varios programas.

La reclamación del Pentágono se refiere a un posible vector de vulnerabilidad: si el desarrollador retiene la capacidad de cambiar o desactivar remotamente el modelo, esto crea un riesgo de dependencia de una empresa privada en situaciones críticas. Los departamentos militares en todo el mundo han buscado tradicionalmente la soberanía sobre sus sistemas—especialmente en el contexto de operaciones de combate activo, cuando la confiabilidad de la infraestructura se convierte en una cuestión de vida o muerte.

Anthroic contrareplica: la arquitectura de implementación de Claude no permite que la empresa interfiera en instancias ya en ejecución sin el conocimiento del cliente. El liderazgo de la empresa enfatiza que un modelo implementado en un entorno aislado del departamento militar funciona de forma independiente de los servidores de Anthropic. La posibilidad de 'apagado remoto' o modificación encubierta de comportamiento, dicen, es un escenario técnicamente inviable con una implementación correcta.

Sin embargo, la cuestión sigue siendo controvertida. Los expertos en ciberseguridad han señalado durante mucho tiempo que los modelos de IA comerciales se actualizan a través de mecanismos de fine-tuning y RLHF, que bajo ciertas condiciones pueden afectar el comportamiento del sistema de manera imperceptible para el usuario final. Los clientes militares, a diferencia de los corporativos, exigen garantías de inmutabilidad del modelo durante el período contractual completo—un requisito que los proveedores comerciales aún no han podido satisfacer con herramientas estándar.

La situación refleja una contradicción más amplia: los gobiernos quieren utilizar sistemas de IA comerciales avanzados, pero no están dispuestos a aceptar la dependencia de sus creadores. Los modelos de código abierto—Llama, Mistral y otros—parecen más atractivos en este contexto: se pueden implementar localmente y tener su versión bloqueada. Sin embargo, en términos de calidad, actualmente se quedan atrás de los homólogos propietarios en tareas que requieren razonamiento complejo.

Para Anthropic, el conflicto con el Pentágono es una carga reputacional en un momento en que la empresa se está posicionando activamente como desarrolladora responsable de IA. Cualquier duda sobre la confiabilidad y previsibilidad de Claude podría ralentizar las negociaciones con clientes gubernamentales—un segmento que en los próximos años podría convertirse en uno de los mayores mercados para grandes modelos de lenguaje.