AI biológica como arma e escudo: cientistas buscam equilíbrio

Chatbots universais e modelos especializados para biologia simplificam o design de toxinas, vírus e patógenos perigosos. Isso é confirmado por cientistas entrevistados pela Nature — e cria um dos dilemas mais sérios da história da IA: a mesma tecnologia pode ser usada tanto para defesa quanto para criar armas biológicas.

Por que a IA é perigosa para a biossegurança

Pesquisadores há muito tempo sabem que informações sobre como projetar patógenos estão em princípio disponíveis na literatura científica. Mas antes era necessário anos de preparação e conhecimento biológico profundo para sintetizar algo com base nisso. A IA reduz radicalmente essa barreira de entrada: um chatbot pode ajudar a projetar um vírus sintético, e um modelo especializado pode sugerir qual toxina seria mais eficaz. Pesquisadores estão preocupados que ferramentas de IA transformam o que estava teoricamente disponível em uma ameaça prática.

• Chatbots universais (ChatGPT, Claude) em alguns casos não recusam pedidos para descrever a síntese de substâncias perigosas se a pergunta for formulada de forma suficientemente astuta
• Modelos biológicos especializados, treinados em grandes volumes de dados científicos, podem acelerar o design de patógenos e cálculo de suas propriedades
• Ferramentas de IA reduzem o requisito de especialização: não é mais necessário ser professor de virologia para começar um projeto perigoso

Como os cientistas propõem controlar isso

Cientistas entrevistados pela Nature se dividiram em dois acampamentos principais com visões diferentes de soluções. Alguns exigem restringir o acesso aos próprios modelos de IA e dados de treinamento: proibir ou regulamentar rigorosamente ferramentas especializadas para síntese de proteínas, limitar seu uso apenas a pesquisadores autorizados. Outros acreditam que isso é fundamentalmente ineficaz — a informação já está publicada em periódicos científicos, e proibições rígidas apenas desacelerarão pesquisas legítimas em desenvolvimento de medicamentos e vacinas.

Uma abordagem alternativa foi chamada de "controle de síntese." Em vez de regulamentar os próprios programas, propõe-se monitorar e bloquear a capacidade real de sintetizar sequências perigosas. Laboratórios e empresas fornecedoras de DNA sintético podem implementar sistemas para verificar todos os pedidos para identificar automaticamente tentativas de sintetizar patógenos conhecidos. Isso é mais lento para implementar, mas potencialmente mais eficaz na prática.

Porém a IA pode salvar vidas

Aqui emerge uma terceira, embora menos proeminente voz na discussão. Alguns pesquisadores apontam para um paradoxo profundo do uso dual: a IA não apenas cria uma ameaça, mas pode ajudar a neutralizá-la. Os mesmos modelos que acelerarão o design de um patógeno perigoso podem acelerar o desenvolvimento de vacinas, antídotos e antitoxinas.

Se um patógeno potencial pode ser projetado em alguns dias, então em teoria um antídoto também pode ser desenvolvido rapidamente se um sistema de IA poderoso for lançado para isso. Defensores dessa abordagem propõem investir melhor no desenvolvimento de aplicações de IA protetora e sistemas de alerta precoce do que em proibições rígidas. Isso cria uma questão filosófica que permanece sem resposta: restrições rígidas à IA biológica desacelerarão tanto a ameaça quanto a defesa simultaneamente.

Regulações muito lenientes permitirão que a ameaça surja mais rápido do que possa ser neutralizada.

O que isso significa

Regulamentar a IA biológica terá que ser feito com muito cuidado e de forma combinada — combinando várias abordagens simultaneamente. Precisa haver um equilíbrio entre acesso aberto para defesa e restrições para segurança. Por enquanto, tal equilíbrio não existe, e a discussão está apenas ganhando momentum.