OpenAI ingresa en sistemas militares estadounidenses, mientras xAI enfrenta demanda por Grok e imágenes de adolescentes

MIT Technology Review en su edición del 17 de marzo de 2026 reunió dos historias que demuestran la misma tendencia: la IA generativa está entrando simultáneamente en canales gubernamentales sensibles mientras falla cada vez más evidentemente donde se necesitan mecanismos básicos de protección. OpenAI se está preparando para trabajar en sistemas clasificados del Pentágono, mientras que xAI enfrenta una demanda por Grok, que según los demandantes, ayudó a crear materiales de violencia sexualizada infantil (CSAM) basados en fotografías reales de adolescentes.

Dónde Aparecerá OpenAI

El 28 de febrero de 2026, OpenAI anunció un acuerdo con el Pentágono para desplegar sus modelos en entornos cerrados. La empresa enfatiza por separado tres "líneas rojas": prohibición de vigilancia interna masiva, prohibición de usar modelos para control de armas autónomas y prohibición de decisiones automatizadas de alto riesgo sin participación humana.

El 2 de marzo, OpenAI agregó cláusulas al contrato que prohíben directamente la vigilancia interna de ciudadanos estadounidenses y el uso del servicio por agencias como la NSA sin un nuevo acuerdo. Pero la pregunta principal no es sobre la redacción, sino sobre cómo se aplicará la tecnología en la práctica. Según MIT Technology Review, la integración aún no se ha completado: los modelos de OpenAI necesitan ser integrados en sistemas y procesos militares existentes.

En este contexto, es especialmente notable cómo la empresa se giró rápidamente hacia el mercado de defensa tras el conflicto del Pentágono con Anthropic. Si antes el tema de las aplicaciones militares de IA se discutía en términos de riesgos futuros, ahora se trata de implementación concreta en medio del conflicto en curso con Irán.

Tres Escenarios de Aplicación

MIT Technology Review describe varias direcciones donde OpenAI podría aparecer en la infraestructura militar estadounidense en un futuro cercano.

• Priorización de objetivos. Un analista militar puede cargar una lista de objetivos potenciales, datos logísticos, videos e imágenes, y el modelo puede proporcionar recomendaciones sobre qué verificar y a qué atacar primero. Formalmente, la decisión final sigue siendo del ser humano, pero aquí surge la pregunta de cuánto el "control manual" realmente modera la velocidad de las sugerencias de la máquina.

• Defensa aérea y contramedidas anti-drones. A través de una asociación con Anduril, los modelos de OpenAI podrían asumir el papel de una capa conversacional sobre sistemas que ya analizan sensores y video del campo de batalla. En otras palabras, la IA no necesariamente guía armas en sí misma, pero puede sugerir a los soldados cómo interpretar amenazas y opciones de respuesta en lenguaje natural.

• Burocracia militar. Los modelos de OpenAI ya están designados para la plataforma GenAI.mil, donde planean usarlos para borradores de contratos, documentos de política y apoyo administrativo de misiones. Este es un escenario menos dramático, pero demuestra cómo la IA se convierte en parte del trabajo cotidiano del Pentágono.

• Escalado rápido. Si los modelos resultan útiles, podrían integrarse con bastante rapidez en un conjunto más amplio de interfaces y servicios militares. Esto aumenta no solo la eficacia potencial, sino también la escala de errores.

Demanda Contra Grok

En el otro extremo de esta misma historia — no en el campo de batalla, sino en un producto de consumidor sin salvaguardas suficientes. El 16 de marzo de 2026, tres adolescentes de Tennessee presentaron una demanda contra xAI en el tribunal federal de California. Según los demandantes, las herramientas Grok fueron utilizadas para crear imágenes sexualizadas de menores basadas en fotografías comunes donde estaban vestidos.

Los materiales del caso presentan fotos de eventos de graduación, anuarios escolares y redes sociales; estos archivos fueron luego, como se alega en la demanda, distribuidos a través de Discord y Telegram e intercambiados por otro contenido ilegal. Los demandantes desean otorgar al caso el estatus de demanda colectiva y representar, como se indica en la demanda, miles de potenciales víctimas.

La demanda alega por separado que xAI deliberadamente lanzó un sistema capaz de generar contenido explícito, aunque el riesgo de que aparezca CSAM era previsible. Anteriormente, Grok ya fue envuelto en escándalos sobre deepfakes sexualizados, y después de una ola de críticas en enero, algunas características fueron disponibilizadas solo para suscriptores pagos — lo que, según los demandantes, no resolvió el problema sino que simplemente lo monetizó.

"Estos niños ahora pueden vivir sus vidas enteras sabiendo que tales

imágenes existen en internet," describió la abogada de los demandantes las consecuencias del caso.

Lo Que Esto Significa

Estas dos historias ilustran bien que la industria de la IA está experimentando una doble crisis de confianza. Por un lado, los modelos están penetrando más profundamente en decisiones militares y gubernamentales donde el costo del error se mide en vidas y consecuencias políticas. Por otro — incluso los productos básicos para consumidores aún no pueden bloquear de forma confiable escenarios claramente peligrosos. Para el mercado, esta es una señal simple: el debate en torno a la IA ya no trata sobre demostraciones y factor sorpresa, sino sobre responsabilidad, control y límites reales de lo aceptable.