El Pentágono podría usar chatbots de AI para priorizar objetivos en ataques militares

El Pentágono ha descrito por primera vez de manera bastante directa un escenario en el que la IA generativa ayuda a los militares no solo a buscar datos, sino a priorizar una lista de objetivos. Formalmente, la decisión final sigue siendo responsabilidad de un ser humano, pero el hecho de que los chatbots estén llevando la secuencia de ataques más cerca aumenta drásticamente las apuestas en el debate sobre aplicaciones militares de IA.

Cómo Podría Funcionar

Según un funcionario del Pentágono familiarizado con el tema, los militares podrían cargar una lista de objetivos potenciales en un sistema generativo que opera en un circuito cerrado y secreto. Luego, el operador le pide al modelo que analice los datos y proporcione recomendaciones: qué objetos son más importantes, cuáles se pueden posponer y en qué objetivos tiene más sentido atacar primero. Esto tiene en cuenta no solo los propios objetivos, sino también factores operacionales como el posicionamiento de aeronaves y la situación general del campo de batalla.

Es importante notar que el funcionario describió esto como un posible escenario operativo, pero no confirmó ni negó si tal esquema ya se está utilizando en operaciones reales hoy. Esto deja sin respuesta la pregunta clave: dónde exactamente está hoy el límite entre una sugerencia analítica y la influencia de la IA en la decisión de usar la fuerza. En teoría, el ser humano sigue siendo el filtro final, pero en tiempo de guerra, lo que importa no es solo el derecho a hacer el clic final, sino también quién establece el orden de las acciones.

Sobre Qué Infraestructura

El Pentágono ya tiene el fundamento para tal enfoque. Desde 2017, las fuerzas militares estadounidenses utilizan Project Maven, un sistema que ayuda a analizar grandes volúmenes de datos de inteligencia, incluidos videos de drones y materiales satelitales, para encontrar objetivos potenciales más rápidamente. Inicialmente, se trataba principalmente de visión por computadora: la máquina ayuda a identificar un objeto que el operador verifica manualmente.

Ahora se podría agregar una capa conversacional al estilo de ChatGPT, Claude o Grok en la parte superior de esta pila. La diferencia es fundamental: anteriormente la IA principalmente encontraba y marcaba objetos, pero ahora también puede explicar, comparar, clasificar y recomendar próximos pasos en lenguaje natural. Teóricamente, esto acelera el trabajo de los estados mayores y analistas, especialmente al lidiar con grandes flujos de datos y una ventana corta para responder.

• recopilar y resumir brevemente datos de inteligencia sobre múltiples objetivos
• clasificar una lista de objetos por prioridad de ataque
• tener en cuenta el contexto como posicionamiento de aeronaves y disponibilidad de recursos
• sugerir en qué objetivo tiene más sentido actuar primero
• proporcionar recomendaciones a personas que deben verificarlas

Separadamente, es importante notar que OpenAI y xAI ya han celebrado acuerdos que permiten utilizar sus modelos en ambientes cerrados del Pentágono. Esto no prueba que sus sistemas ya estén participando en orientación de combate, pero muestra con qué rapidez se está construyendo la base técnica y contractual para tales escenarios. En paralelo, otras publicaciones han vinculado plataformas militares también con Claude, aunque el papel específico de modelos generativos en operaciones individuales no ha sido confirmado públicamente.

Por Qué Se Ha Intensificado el Debate

Esta revelación ocurrió en un momento en que el Pentágono ya está bajo presión por un ataque a una escuela para niñas en Minab, Irán. Según reportes relacionados, murieron más de 100 niños, y una investigación preliminar señaló un problema con datos desactualizados durante el direccionamiento. En este contexto, cualquier afirmación de que la IA simplemente ayuda a las personas ya no suena como tranquilidad, sino como una invitación a preguntas más difíciles.

La principal es simple: ¿qué tan real es la verificación humana si el sistema produce respuestas convincentes en segundos y hay poco tiempo para una segunda verificación? Si un operador necesita casi el mismo tiempo para verificar de forma independiente las recomendaciones del modelo que lo que el sistema tardó en producirlas, la ventaja de velocidad se reduce. Si las personas comienzan a confiar en el sistema por defecto, el riesgo de error se vuelve sistémico.

Para decisiones militares, esto es especialmente peligroso porque el costo de una alucinación o clasificación incorrecta se mide no en reportes de errores, sino en vidas.

Qué Significa Esto

La IA generativa está entrando no solo en procesos de oficina, sino en la parte más sensible de la máquina militar: la preparación de decisiones sobre el uso de la fuerza. Aunque formalmente los humanos sigan "en el circuito", la verdadera pregunta ahora es diferente: ¿puede ese humano realmente verificar el consejo del modelo antes de que se convierta en un ataque?