Senadores de EE. UU. quieren convertir en ley las “líneas rojas” de Anthropic sobre armas autónomas

El conflicto entre Anthropic y los militares estadounidenses ha salido de las salas de tribunales y ha llegado al Capitolio. El senador demócrata Adam Schiff, de California, está trabajando en una legislación que debería inscribir las "líneas rojas" de la empresa en la ley federal — principios que prohíben el uso de sus sistemas de IA para crear armas letales autónomas y tomar decisiones automáticas sobre la vida y la muerte sin participación humana en el bucle de control. Las raíces del conflicto se remontan al desacuerdo de Anthropic con los términos de un contrato militar.

Cuando el Departamento de Defensa de EE.UU. exigió acceso a los modelos de IA de la empresa sin salvedades sobre escenarios de uso permitidos, Anthropic rechazó.

La empresa insistió: sus tecnologías no pueden ser utilizadas para decisiones letales autónomas — es decir, situaciones en las que un algoritmo determina de forma independiente, sin participación del operador humano, objetivos para destrucción u autoriza otras acciones militares críticas. En opinión de Anthropic, esto no es un capricho corporativo sino un principio fundamental del desarrollo responsable de IA. La respuesta de la Casa Blanca fue dura: la administración Trump incluyó a Anthropic en una lista de proveedores que representan una amenaza para la cadena de suministro, bloqueando efectivamente la cooperación de la empresa con organismos gubernamentales.

Anthropic respondió con una demanda, acusando al gobierno de violar los derechos constitucionales de la empresa. El enfrentamiento legal continúa. Fue en ese momento cuando entró en juego el Congreso.

El senador Schiff anunció su intención de convertir las restricciones éticas de Anthropic de política corporativa en ley federal. Su futura legislación debe garantizar: ningún algoritmo de IA puede tomar decisiones de forma independiente sobre el uso de la fuerza — la palabra final siempre permanece en manos del ser humano. El principio del "ser humano en el bucle" (human-in-the-loop) hace mucho que es una recomendación de la industria, pero no está recogido en ninguna parte de la legislación estadounidense — y el proyecto de ley de Schiff debería corregir esta omisión.

Paralelamente, la senadora Elissa Slotkin, de Michigan, presentó una legislación separada limitando la capacidad del Departamento de Defensa de usar inteligencia artificial para la vigilancia masiva de ciudadanos estadounidenses. Este es el segundo frente del mismo problema: ¿hasta dónde pueden llegar los militares en la aplicación de herramientas de IA cuando el objeto de observación no son adversarios extranjeros sino los propios ciudadanos del país? Ambos proyectos de ley no surgieron en el vacío.

Reflejan la creciente preocupación de los legisladores por el ritmo de integración de la IA en la esfera militar. Ante el hecho de que el Pentágono está firmando activamente contratos con empresas de IA — desde Palantir hasta Scale AI — la cuestión de los límites aceptables se vuelve cada vez más acuciante. Es característico que la iniciativa provenga precisamente de los demócratas: en la actual configuración política, esto significa que los proyectos de ley enfrentarán una seria resistencia de la mayoría republicana, que en general apoya la expansión de los programas militares de IA.

Para Anthropic, la situación es ambigua. El reconocimiento legislativo de sus principios sería una victoria y una legitimación de todo el enfoque de la empresa respecto a la seguridad de la IA. Sin embargo, estar en una "lista negra" amenaza genuinamente los contratos gubernamentales y las perspectivas comerciales en el sector de defensa.

Lo que está sucediendo es una señal clara: la industria ha llegado a un punto donde los códigos corporativos voluntarios son insuficientes. Cuando el principal desarrollador de modelos de IA demanda al Pentágono y los senadores se apresuran a redactar leyes, la sociedad necesita reglas claras — sobre IA y guerra, sobre máquinas y el derecho a la vida.