Anthropic frente a la maquinaria militar: principios a costa de un contrato millonario

En el mundo de los grandes modelos de lenguaje, es habitual presentar la seguridad de la AI como una prioridad. Pero cuando hay contratos militares de miles de millones en juego, las declaraciones grandilocuentes se someten a la prueba de la realidad. Anthropic, una empresa que ha construido su reputación precisamente sobre un enfoque responsable de la inteligencia artificial, se encuentra ante una situación en la que sus principios pueden costarle una cantidad muy concreta de dinero.

Según Wired, Anthropic insiste con firmeza en dos restricciones para el uso de su modelo Claude: ninguna aplicación en sistemas de armas autónomas y ninguna integración en herramientas de vigilancia estatal. Estas «líneas rojas» no son simples cláusulas del acuerdo de usuario. Forman parte de la propia arquitectura de la relación de la compañía con sus potenciales clientes gubernamentales. Y, según la publicación, son precisamente ellas las que podrían costarle a Anthropic un gran contrato con el Departamento de Defensa de Estados Unidos.

Para entender la magnitud de lo que ocurre, hay que mirar el contexto. En los últimos dos años, el Pentágono y otras estructuras de defensa de EE. UU.

han disparado su interés por la AI generativa. El Departamento de Defensa ha puesto en marcha varios programas para integrar grandes modelos de lenguaje en logística, análisis de inteligencia, planificación de operaciones y, lo que resulta especialmente delicado, en sistemas de toma de decisiones en el campo de batalla. OpenAI, que en 2023 todavía declaraba su rechazo a colaborar con el ámbito militar, revisó discretamente su postura en 2025 y empezó a trabajar con contratistas de defensa.

Google, a través de su división Google Public Sector, promueve activamente Gemini para necesidades gubernamentales. Microsoft, socio estratégico de OpenAI, lleva mucho tiempo profundamente integrada en la infraestructura de defensa mediante los contratos de Azure Government. En este panorama, Anthropic es prácticamente el único gran actor que traza públicamente una frontera clara entre el uso militar aceptable y el inaceptable.

La firmeza de Anthropic tiene raíces en el propio ADN de la compañía. Sus fundadores, Dario y Daniela Amodei, dejaron OpenAI precisamente porque consideraban que su enfoque de la seguridad no era lo bastante serio. Anthropic se presenta como una empresa «safety-first», y sus investigaciones sobre AI constitucional, interpretabilidad de modelos y mecanismos de alineamiento están, efectivamente, en la vanguardia del sector. Pero una cosa es publicar artículos científicos sobre seguridad y otra muy distinta es renunciar a contratos que pueden alcanzar cientos de millones de dólares. Sobre todo cuando se trata de una empresa privada que quema sumas colosales en el entrenamiento de modelos y necesita fuentes de ingresos estables.

Sobre el papel, prohibir las armas autónomas y la vigilancia parece sencillo, pero en la práctica la frontera es tan difusa que resulta casi irreconocible. ¿Qué se considera un arma autónoma: un dron que elige su objetivo por sí mismo o un sistema que analiza imágenes de satélite y ofrece al operador una lista de objetivos prioritarios? ¿Dónde termina el «análisis de inteligencia» y empieza la «vigilancia estatal»?

Los clientes militares suelen querer licencias lo más amplias posible y el mínimo de restricciones. Una empresa que llega con una larga lista de salvedades pierde automáticamente frente a un competidor dispuesto a ser más flexible. Y eso es, al parecer, lo que está ocurriendo: el Pentágono estudia proveedores alternativos que no cargan con marcos éticos de este tipo.

Esta situación pone al descubierto una grieta profunda en la industria de la AI. Durante varios años, los principales laboratorios han competido por firmar compromisos voluntarios de seguridad, publicar manifiestos y crear comités internos de ética. Pero las restricciones voluntarias funcionan justo hasta el momento en que empiezan a costar dinero de verdad.

OpenAI ya ha demostrado lo rápido que se puede cambiar de chaqueta: entre el categórico «no trabajamos con militares» y la asociación con estructuras de defensa pasaron menos de dos años. Si Anthropic pierde un gran contrato por sus principios, será una señal potente para todo el mercado, y una señal ambivalente. Por un lado, mostrará que las restricciones éticas tienen un precio real.

Por otro, demostrará que el mercado castiga la coherencia de principios.

Para Anthropic, lo que está en juego va mucho más allá de un solo contrato. La compañía ha captado miles de millones de dólares en inversión, entre otros de Amazon y Google, y su valoración se acerca a los 60.000 millones de dólares. Los inversores esperan un crecimiento de los ingresos, y el sector público es uno de los canales de monetización más prometedores y estables para las empresas de AI. Si Anthropic pierde sistemáticamente contratos públicos por sus restricciones éticas, la presión de los accionistas aumentará de forma inevitable. La historia de la industria tecnológica ofrece no pocos ejemplos de principios nobles que cedieron ante el pragmatismo a medida que crecían la empresa y sus compromisos financieros.

Aun así, la decisión de Anthropic merece atención no solo como caso de negocio. Plantea a todo el sector una pregunta que tarde o temprano habrá que resolver por la vía regulatoria: ¿deben existir restricciones obligatorias, y no voluntarias, al uso militar de la AI generativa? Mientras esa pregunta siga sin respuesta, el destino de los estándares éticos en la AI dependerá de la disposición de cada empresa a pagar por sus convicciones. Anthropic, por ahora, paga. La cuestión es cuánto tiempo podrá permitírselo.