IA biológica como arma e escudo: cientistas buscam equilíbrio

Chatbots de uso geral e modelos especializados em biologia facilitam o projeto de toxinas, vírus e patógenos perigosos. É o que confirmam os cientistas ouvidos pela revista Nature — e isso cria um dos dilemas mais sérios da história da IA: a mesma tecnologia pode ser usada tanto para a defesa quanto para a criação de armas biológicas.

Por que a IA é perigosa para a biossegurança

Os pesquisadores sabem há muito tempo que, em princípio, informações sobre como projetar patógenos estão disponíveis na literatura científica. Antes, porém, eram necessários anos de preparação e conhecimento biológico profundo para sintetizar algo a partir desse material. A IA reduz essa barreira de entrada de forma radical. Os pesquisadores estão preocupados com o fato de que as ferramentas de IA transformam o que era acessível na teoria em uma ameaça prática.

• Chatbots de uso geral (ChatGPT, Claude), em alguns casos, não recusam pedidos relacionados a substâncias perigosas quando a pergunta é formulada de maneira suficientemente astuta
• Modelos biológicos especializados, treinados em volumes enormes de dados científicos, podem acelerar o projeto de patógenos e o cálculo de suas propriedades
• As ferramentas de IA reduzem a exigência de expertise: já não é preciso ser professor de virologia para começar a trabalhar em um projeto perigoso

Como os cientistas propõem controlar isso

Os especialistas ouvidos pela Nature se dividiram em dois campos principais, com visões distintas de solução. Alguns exigem restringir o acesso aos próprios modelos de IA e aos dados de treinamento: proibir ou regular de forma rígida as ferramentas especializadas em síntese de proteínas e limitar seu uso apenas a pesquisadores autorizados. Outros consideram que isso é fundamentalmente ineficaz — a informação já foi publicada em revistas científicas, e proibições estritas apenas desacelerariam pesquisas legítimas no desenvolvimento de medicamentos e vacinas.

A abordagem alternativa recebeu o nome de «controle da síntese». Em vez de regular os próprios programas, a proposta é monitorar e bloquear a própria possibilidade de sintetizar sequências perigosas. Laboratórios e empresas fornecedoras de DNA sintético podem implementar sistemas de verificação de todos os pedidos, para identificar automaticamente tentativas de sintetizar patógenos conhecidos. Isso é mais lento de implantar, mas potencialmente mais eficaz na prática.

No entanto, a IA pode salvar

Aqui surge uma terceira voz na discussão, ainda que menos ruidosa. Parte dos pesquisadores aponta o profundo paradoxo do uso dual: a IA não só cria a ameaça, como também pode ajudar a neutralizá-la. Os mesmos modelos que aceleram o projeto de um patógeno perigoso podem acelerar também o desenvolvimento de vacinas, antídotos e contravenenos. Se um patógeno potencial pode ser projetado em alguns dias, então o antídoto — em teoria — também pode ser desenvolvido rapidamente, caso se coloque um sistema de IA igualmente poderoso a trabalhar nisso.

Os defensores dessa abordagem propõem investir mais no desenvolvimento de aplicações de IA defensivas e de sistemas de alerta precoce do que em proibições rígidas. Isso cria uma questão filosófica que, por ora, está sem resposta: restrições rígidas à IA biológica desacelerariam simultaneamente a ameaça e a defesa. Regulações muito brandas permitiriam que a ameaça surgisse mais rápido do que a capacidade de neutralizá-la.

O que isso significa

Será preciso regular a IA biológica com muito cuidado e de forma combinada — unindo várias abordagens ao mesmo tempo. É necessário um equilíbrio entre o acesso aberto para a defesa e as restrições para a segurança. Esse equilíbrio ainda não existe, e a discussão apenas começa a ganhar tração.