La comisión de The Lancet señala la IA maliciosa y la guerra nuclear como las principales amenazas hasta 2100

Una nueva comisión global ha evaluado 17 amenazas catastróficas para la salud de la humanidad en los próximos 75 años. La evaluación, de la que se hace eco The Guardian, ha sido publicada por The Lancet. Dos puntos encabezan la lista: el uso malicioso de la IA y un conflicto nuclear. Según las conclusiones de los autores, cualquiera de ellos podría provocar la extinción de los humanos antes de 2100. Para cada una de las 17 amenazas existe, como subraya la comisión, un «camino de acción realista».

Qué incluye la lista

El fragmento publicado ofrece solo un panorama general, pero resulta revelador:

• Número de amenazas: 17, todas catalogadas como catastróficas para la salud humana.
• Horizonte: 75 años, hasta 2100.
• Riesgos más graves: el uso malicioso de la IA y un conflicto nuclear, ambos con potencial de extinción.
• Otros puntos: la reducción de la ayuda al desarrollo de los países ricos, la crisis climática y la desnutrición infantil.
• Conclusión sobre cada riesgo: existe un camino de acción realista.

La vecindad de los puntos sorprende. La desnutrición infantil y los recortes en los presupuestos de ayuda no parecen escenarios de fin del mundo. Pero la comisión mide amenazas a la salud, no lo cinematográfico de la catástrofe. Procesos lentos y aburridos, como la caída de la financiación sanitaria en los países pobres, pueden matar a más personas que un único suceso espectacular.

Por qué la IA aparece junto al armamento nuclear

La fórmula «uso malicioso» es importante. No se trata de una rebelión de las máquinas, sino de personas que emplean la IA para causar daño. En la publicación de The Guardian no se detallan los escenarios concretos de la comisión. En los debates especializados sobre riesgos suelen tratarse varias vías: la ayuda en la creación de armas biológicas, los ciberataques a gran escala contra infraestructuras críticas, incluidos los hospitales, la desinformación masiva y los sistemas de armas autónomos. Cuáles de ellas considera prioritarias la comisión es algo que debe consultarse en el informe completo.

Para la industria, es una señal distinta de las declaraciones habituales de los laboratorios. Aquí la IA se evalúa desde la salud pública y se sitúa junto a una amenaza con la que la humanidad convive desde 1945. Esa mirada encaja mal con la presentación de la IA como un conjunto de funciones de producto. Saca el debate sobre riesgos de la categoría de «seguridad de los modelos» y lo lleva a la de «amenazas globales para la salud», donde operan otros reguladores, otros presupuestos y otras audiencias.

Qué hacer con esto

Primero: no confundir el titular con el estudio. La tesis de la «extinción antes de 2100» suena contundente, pero el fragmento publicado no incluye la metodología, las probabilidades ni los supuestos. Antes de citar la evaluación, conviene localizar el informe completo y comprobar cómo calculó la comisión los riesgos y de dónde sacó el horizonte de 75 años.

Segundo: prestar atención a la fórmula del «camino de acción realista». Para desarrolladores y empresas implica revisar el uso malicioso: pruebas de asistencia en ataques biológicos y cibernéticos, restricciones de acceso a los modelos más potentes y registro de las consultas. Para los reguladores, se trata de acuerdos internacionales sobre IA junto al control nuclear. Para los lectores corrientes y los inversores, la conclusión es más modesta: los temas de seguridad de la IA aparecerán cada vez más en documentos de organizaciones que no se dedican a la tecnología. Conviene seguir esas publicaciones, porque de ellas nacerán las futuras normas y requisitos.