AI biológica como arma y escudo: los científicos buscan un equilibrio

Los chatbots universales y modelos especializados para biología simplifican el diseño de toxinas, virus y patógenos peligrosos. Esto lo confirman científicos entrevistados por Nature — y crea uno de los dilemas más graves en la historia de la IA: la misma tecnología puede utilizarse tanto para la defensa como para crear armas biológicas.

Por qué la IA es peligrosa para la bioseguridad

Los investigadores llevan mucho tiempo sabiendo que la información sobre cómo diseñar patógenos está en principio disponible en la literatura científica. Pero antes era necesario años de preparación y conocimiento biológico profundo para sintetizar algo basado en ello. La IA reduce radicalmente esta barrera de entrada: un chatbot puede ayudar a diseñar un virus sintético, y un modelo especializado puede sugerir qué toxina sería más efectiva. Los investigadores están preocupados por el hecho de que las herramientas de IA conviertan lo que estaba teóricamente disponible en una amenaza práctica.

• Los chatbots universales (ChatGPT, Claude) en algunos casos no rechazan solicitudes para describir la síntesis de sustancias peligrosas si la pregunta se formula de manera suficientemente astuta
• Los modelos biológicos especializados, entrenados en grandes volúmenes de datos científicos, pueden acelerar el diseño de patógenos y el cálculo de sus propiedades
• Las herramientas de IA reducen el requisito de experiencia: ya no es necesario ser profesor de virología para comenzar un proyecto peligroso

Cómo los científicos proponen controlar esto

Los científicos entrevistados por Nature se dividieron en dos campos principales con diferentes visiones de soluciones. Algunos exigen restringir el acceso a los propios modelos de IA y datos de entrenamiento: prohibir o regular estrictamente herramientas especializadas para síntesis de proteínas, limitar su uso únicamente a investigadores autorizados. Otros creen que esto es fundamentalmente ineficaz — la información ya está publicada en revistas científicas, y las prohibiciones estrictas solo ralentizarán la investigación legítima en desarrollo de fármacos y vacunas.

Un enfoque alternativo ha sido llamado "control de síntesis." En lugar de regular los propios programas, se propone monitorear y bloquear la capacidad real de sintetizar secuencias peligrosas. Los laboratorios y empresas proveedoras de ADN sintético pueden implementar sistemas para verificar todos los pedidos a fin de identificar automáticamente intentos de sintetizar patógenos conocidos. Esto es más lento de desplegar pero potencialmente más efectivo en la práctica.

Sin embargo, la IA puede salvar vidas

Aquí emerge una tercera voz, aunque menos prominente, en la discusión. Algunos investigadores señalan una paradoja profunda del uso dual: la IA no solo crea una amenaza, sino que puede ayudar a neutralizarla. Los mismos modelos que acelerarán el diseño de un patógeno peligroso pueden acelerar el desarrollo de vacunas, antídotos y antitoxinas.

Si un patógeno potencial puede diseñarse en unos pocos días, entonces en teoría un antídoto también puede desarrollarse rápidamente si se lanza un sistema de IA poderoso para ello. Los defensores de este enfoque proponen invertir mejor en el desarrollo de aplicaciones de IA protectora y sistemas de alerta temprana que en prohibiciones estrictas. Esto crea una pregunta filosófica que sigue sin respuesta: las restricciones estrictas a la IA biológica ralentizarán tanto la amenaza como la defensa simultáneamente.

Las regulaciones demasiado permisivas permitirán que la amenaza surja más rápido de lo que puede neutralizarse.

Qué significa esto

Regular la IA biológica tendrá que hacerse con mucho cuidado y de manera combinada — combinando varios enfoques simultáneamente. Necesita haber un equilibrio entre el acceso abierto para la defensa y las restricciones para la seguridad. Por ahora, tal equilibrio no existe, y la discusión apenas está ganando impulso.