Anthropic demanda al Pentágono por sanciones

Anthropic, una de las principales desarrolladoras mundiales de sistemas de inteligencia artificial y creadora del modelo de lenguaje Claude, ha dado un paso sin precedentes al presentar dos demandas contra el Departamento de Defensa de los Estados Unidos. El detonante fue la decisión del Pentágono de designar a la empresa como un "riesgo para la cadena de suministro" — una herramienta que nunca antes se había aplicado a una empresa americana y que efectivamente obliga a todos los contratistas gubernamentales a romper cualquier relación comercial con Anthropic. La empresa considera esta decisión ilegal y sostiene que viola sus derechos garantizados por la Primera Enmienda a la Constitución de los EE.

UU. Las demandas fueron presentadas simultáneamente ante la corte federal del Distrito Norte de California y ante la Corte de Apelaciones del Distrito de Columbia, lo que demuestra la seriedad de la intención de la empresa de luchar por su posición en todos los frentes legales disponibles.

Las raíces del conflicto se remontan a un punto muerto de varios meses entre Anthropic y el ministerio militar, que se centró en una pregunta fundamental: ¿deberían los desarrolladores de inteligencia artificial tener el derecho de imponer restricciones sobre el uso militar de sus tecnologías? Anthropic ha intentado consistentemente implementar mecanismos de protección que evitarían el uso de sus modelos para vigilancia masiva de ciudadanos dentro del país, así como para crear sistemas completamente autónomos de armas letales. Esta posición, que encaja perfectamente dentro de la ética corporativa y los principios ampliamente discutidos del desarrollo responsable de IA, encontró una feroz resistencia del Pentágono, que consideró tales restricciones como una interferencia inaceptable en los intereses de seguridad nacional.

La decisión de designar a la empresa con el estatus de "riesgo para la cadena de suministro" se tomó formalmente el jueves pasado y efectivamente constituye una forma de lista negra. Este mecanismo fue creado para proteger la contratación gubernamental de proveedores no confiables, pero hasta ahora solo se ha aplicado a empresas extranjeras, típicamente vinculadas a estados rivales. Usarlo contra una firma americana, y no por deficiencias técnicas o violaciones de seguridad, sino esencialmente por intentar mantener estándares éticos, establece un precedente preocupante.

Anthropic señala acertadamente que tales acciones tienen carácter punitivo y constituyen un castigo a la empresa por ejercer su derecho constitucional a la libertad de expresión y expresar su posición sobre el uso de la tecnología.

Las consecuencias de este enfrentamiento van mucho más allá del destino de una sola empresa. Si la decisión del Pentágono se mantiene en los tribunales, cualquier desarrollador de IA que desee imponer restricciones éticas en la aplicación de sus productos corre el riesgo de encontrarse en una situación similar. Esto podría llevar a que la industria de inteligencia artificial se divida en dos campos: empresas dispuestas a servir incondicionalmente las necesidades militares sin ninguna condición, y aquellas forzadas a retirarse completamente del trabajo con el sector gubernamental, perdiendo una porción significativa de ingresos potenciales.

Para Anthropic, cuyo modelo de negocio depende sustancialmente de clientes corporativos y gubernamentales, el requisito de cortar todos los vínculos con contratistas gubernamentales representa una seria amenaza económica. En esencia, el Pentágono está usando la presión del mercado como una palanca coercitiva, forzando a la empresa a elegir entre principios y supervivencia comercial.

Este conflicto expone una contradicción fundamental que estaba destinada a emerger conforme la inteligencia artificial se convierte en una tecnología estratégica. Por un lado, los gobiernos occidentales han pasado décadas promoviendo la idea de responsabilidad social corporativa e instando a las empresas tecnológicas a considerar las consecuencias de sus desarrollos. Por otro lado, cuando esta responsabilidad entra en conflicto con los intereses militares del estado, resulta que el espacio para maniobra ética es mucho más estrecho de lo supuesto.

La posición de Anthropic en esta disputa hace eco de una discusión de larga data dentro de Silicon Valley que comenzó con el Proyecto Maven de Google en 2018, cuando miles de empleados protestaron contra la colaboración de la empresa con el Pentágono en análisis de vídeo de drones.

El resultado del litigio es capaz de determinar las reglas del juego para toda la industria por años venideros. Si el tribunal se pone del lado de Anthropic, consolidará el derecho de las empresas tecnológicas a establecer condiciones sobre el uso de sus productos incluso cuando trabajan con el gobierno y confirmará que las restricciones éticas están protegidas por la Constitución. Si el Pentágono prevalece, será una señal de que en una era de competencia geopolítica por la supremacía tecnológica, el estado está dispuesto a aplicar presión extraordinaria sobre empresas que se niegan a subordinar incondicionalmente su desarrollo a objetivos militares.

En cualquier caso, el caso de Anthropic contra el Departamento de Defensa ya ha entrado en la historia como el primer conflicto legal importante en el que la cuestión de la ética de la inteligencia artificial ha pasado del plano teórico a la sala de audiencias.