Comissão da Lancet aponta IA maliciosa e guerra nuclear como principais ameaças até 2100

Uma nova comissão global avaliou 17 ameaças catastróficas à saúde da humanidade para os próximos 75 anos. A avaliação, noticiada pelo Guardian, foi publicada pela Lancet. Dois itens lideram a lista: o uso malicioso de IA e o conflito nuclear. Segundo os autores, qualquer um dos dois pode levar à extinção humana até 2100. Para cada uma das 17 ameaças, como destaca a comissão, existe um "caminho de ação realista".

O que entrou na lista

O trecho divulgado dá apenas um panorama geral, mas ele é revelador:

• Número de ameaças: 17, todas classificadas como catastróficas para a saúde humana.
• Horizonte: 75 anos, até 2100.
• Riscos mais graves: uso malicioso de IA e conflito nuclear, ambos com potencial de extinção.
• Outros itens: redução da ajuda ao desenvolvimento por parte dos países ricos, crise climática e desnutrição infantil.
• Conclusão para cada risco: existe um caminho de ação realista.

A vizinhança dos itens surpreende. Desnutrição infantil e cortes nos orçamentos de ajuda não parecem cenários de fim do mundo. Mas a comissão mede ameaças à saúde, não o quanto uma catástrofe seria cinematográfica. Processos lentos e pouco vistosos, como a queda no financiamento da saúde em países pobres, podem matar mais gente do que um único evento espetacular.

Por que a IA apareceu ao lado das armas nucleares

A expressão "uso malicioso" é importante. Não se trata de uma rebelião das máquinas, e sim de pessoas que empregam a IA para causar dano. A reportagem do Guardian não detalha os cenários específicos da comissão. Nas discussões especializadas sobre riscos, costumam aparecer algumas frentes: apoio à criação de armas biológicas, ciberataques em larga escala contra infraestrutura crítica, incluindo hospitais, desinformação em massa e sistemas de armas autônomos. Quais dessas a comissão considera prioritárias é algo que só o relatório completo pode esclarecer.

Para a indústria, esse é um sinal diferente dos comunicados habituais dos laboratórios. Aqui a IA é avaliada pela ótica da saúde pública e colocada ao lado de uma ameaça com a qual a humanidade convive desde 1945. Essa visão combina mal com a apresentação da IA como um conjunto de funções de produto. Ela tira a discussão sobre riscos da pauta de "segurança de modelos" e a leva para a de "ameaças globais à saúde", onde atuam outros reguladores, outros orçamentos e outros públicos.

O que fazer com isso

Primeiro: não confundir manchete com estudo. A tese de "extinção até 2100" soa forte, mas o trecho publicado não traz metodologia, probabilidades nem premissas. Antes de citar a avaliação, vale procurar o relatório completo e conferir como a comissão calculou os riscos e de onde tirou o horizonte de 75 anos.

Segundo: prestar atenção à formulação sobre o "caminho de ação realista". Para desenvolvedores e empresas, isso significa verificar o uso malicioso: testes de auxílio a ataques biológicos e cibernéticos, restrições de acesso aos modelos mais poderosos e registro de logs das requisições. Para reguladores, trata-se de acordos internacionais sobre IA ao lado do controle nuclear. Para leitores comuns e investidores, a conclusão é mais modesta: temas de segurança em IA vão aparecer cada vez mais em documentos de organizações que não atuam com tecnologia. Acompanhar essas publicações vale a pena, porque é delas que nascem as futuras normas e exigências.