Anthropic rechaza las acusaciones del Pentágono sobre un posible sabotaje de herramientas de IA en tiempo de guerra

Anthropic niega que pueda interferir en el funcionamiento de sus herramientas de IA en pleno conflicto militar. La declaración responde a las objeciones del Departamento de Defensa de EE. UU., que planteó que el desarrollador de Claude podría, en teoría, manipular el comportamiento de sus modelos incluso después de desplegarlos en condiciones de combate. Los directivos de la compañía insisten en que es técnicamente imposible.

La disputa se ha hecho pública en un contexto de creciente interés del estamento militar estadounidense por los sistemas de IA comerciales. En los dos últimos años, el Pentágono ha probado de forma activa grandes modelos de lenguaje en logística, análisis de inteligencia y planificación de operaciones. Anthropic figura entre los proveedores con los que el Departamento de Defensa negocia o ya colabora en varios programas.

La preocupación del Pentágono apunta a un posible vector de vulnerabilidad: si el desarrollador conserva la capacidad de modificar o desactivar el modelo a distancia, se crea el riesgo de depender de una empresa privada en situaciones críticas. Los ejércitos de todo el mundo buscan tradicionalmente soberanía sobre sus sistemas, sobre todo durante combates activos, cuando la fiabilidad de la infraestructura es una cuestión de vida o muerte.

Anthropic responde que la arquitectura de despliegue de Claude no le permite interferir en instancias ya en funcionamiento sin que el cliente lo sepa. Los directivos subrayan que un modelo desplegado en el entorno aislado de un organismo militar funciona con independencia de los servidores de Anthropic. Consideran que un «apagado remoto» o un cambio encubierto de comportamiento es un escenario técnicamente inviable si la implementación es correcta.

Aun así, el asunto sigue siendo objeto de debate. Los expertos en ciberseguridad llevan tiempo señalando que los modelos de IA comerciales se actualizan mediante fine-tuning y RLHF, mecanismos que, en determinadas condiciones, pueden alterar el comportamiento del sistema sin que el usuario final lo note. Los clientes militares, a diferencia de los corporativos, exigen garantías de que el modelo no cambiará durante toda la vigencia del contrato, un requisito que los proveedores comerciales todavía no saben cumplir con herramientas estándar.

La situación refleja una contradicción más amplia: los gobiernos quieren usar sistemas de IA comerciales de vanguardia, pero no están dispuestos a aceptar la dependencia de sus creadores. Los modelos de código abierto, como Llama, Mistral y otros, resultan en este contexto más atractivos, ya que pueden desplegarse en local y fijarse en una versión concreta. Sin embargo, aún rinden menos que sus equivalentes propietarios en tareas que exigen razonamiento complejo.

Para Anthropic, el conflicto con el Pentágono supone una carga reputacional en un momento en que la empresa se posiciona activamente como desarrolladora responsable de IA. Cualquier duda sobre la fiabilidad y la previsibilidad de Claude puede frenar las negociaciones con clientes gubernamentales, un segmento que en los próximos años podría convertirse en uno de los mayores mercados para los grandes modelos de lenguaje.