IA biológica como arma y escudo: los científicos buscan el equilibrio

Los chatbots de uso general y los modelos especializados en biología facilitan el diseño de toxinas, virus y patógenos peligrosos. Así lo confirman los científicos consultados por la revista Nature, y ello plantea uno de los dilemas más serios en la historia de la IA: una misma tecnología puede servir tanto para la defensa como para crear armas biológicas.

Por qué la IA es peligrosa para la bioseguridad

Los investigadores saben desde hace tiempo que la información sobre cómo diseñar patógenos está, en principio, disponible en la literatura científica. Pero antes hacían falta años de preparación y conocimientos biológicos profundos para sintetizar algo a partir de ella. La IA reduce esa barrera de entrada de forma radical: un chatbot puede ayudar a diseñar un virus sintético, y un modelo especializado puede indicar qué toxina resultará más eficaz. A los investigadores les preocupa que las herramientas de IA conviertan en amenaza práctica lo que antes solo era accesible en teoría.

• Los chatbots de uso general (ChatGPT, Claude) en algunos casos no rechazan peticiones para describir la síntesis de sustancias peligrosas, si la pregunta se formula de manera suficientemente astuta
• Los modelos biológicos especializados, entrenados con enormes volúmenes de datos científicos, pueden acelerar el diseño de patógenos y el cálculo de sus propiedades
• Las herramientas de IA rebajan el nivel de experiencia necesario: ya no hace falta ser catedrático de virología para empezar a trabajar en un proyecto peligroso

Cómo proponen controlarlo los científicos

Los especialistas consultados por Nature se dividen en dos campos principales con visiones distintas de la solución. Unos exigen restringir el acceso a los propios modelos de IA y a los datos de entrenamiento: prohibir o regular con dureza las herramientas especializadas de síntesis de proteínas y limitar su uso únicamente a investigadores autorizados. Otros consideran que eso es ineficaz por principio: la información ya está publicada en revistas científicas, y las prohibiciones estrictas solo frenarán la investigación legítima en el desarrollo de medicamentos y vacunas.

El enfoque alternativo ha recibido el nombre de «control de la síntesis». En lugar de regular los programas en sí, se propone rastrear y bloquear la propia posibilidad de sintetizar secuencias peligrosas. Los laboratorios y las empresas proveedoras de ADN sintético pueden implantar sistemas de verificación de todos los pedidos para detectar automáticamente los intentos de sintetizar patógenos conocidos. Es más lento de desplegar, pero potencialmente más efectivo en la práctica.

Sin embargo, la IA puede salvar vidas

Aquí aparece una tercera voz en el debate, aunque menos ruidosa. Una parte de los investigadores señala la profunda paradoja del uso dual: la IA no solo crea la amenaza, también puede ayudar a neutralizarla. Los mismos modelos que acelerarán el diseño de un patógeno peligroso pueden acelerar igualmente el desarrollo de vacunas, antídotos y contravenenos. Si un patógeno potencial puede diseñarse en unos pocos días, el antídoto —en teoría— también puede desarrollarse rápido, si se pone a trabajar en ello el mismo tipo de sistema de IA potente. Los defensores de este enfoque proponen invertir mejor en el desarrollo de aplicaciones de IA defensivas y de sistemas de alerta temprana que en prohibiciones estrictas.

Esto plantea una cuestión filosófica que por ahora no tiene respuesta: las restricciones estrictas a la IA biológica frenarán a la vez la amenaza y la defensa. Y unas regulaciones demasiado laxas permitirán que la amenaza surja más rápido de lo que se pueda neutralizar.

Qué significa esto

Habrá que regular la IA biológica con mucha cautela y de forma combinada, uniendo varios enfoques a la vez. Se necesita un equilibrio entre el acceso abierto para la defensa y las restricciones por seguridad. Por ahora ese equilibrio no existe, y el debate apenas está cogiendo impulso.