Anthropic: modelos de IA pequenos podem viabilizar worms autorreplicantes até o início de 2027

A Anthropic alertou que o avanço de modelos de IA pequenos pode criar, já no início do próximo ano, condições para a propagação praticamente incontrolável de worms de IA. É assim que se chamam os programas que se replicam sozinhos e migram para novos dispositivos sem intervenção humana. Na avaliação da empresa, será extremamente difícil conter essa propagação. Entre os alvos potenciais, a empresa cita servidores, TVs e eletrodomésticos. O horizonte em questão é medido em meses, não em anos.

Por que os modelos pequenos são o foco da preocupação

Um worm clássico explora uma vulnerabilidade já conhecida. Seu autor precisa saber de antemão o que atacar e escrever um código novo para cada plataforma. Já um worm de IA, seguindo a lógica do alerta da Anthropic, ganha a capacidade de se adaptar no próprio local: estudar um dispositivo desconhecido, escolher uma forma de invasão e seguir adiante.

Modelos grandes são pouco práticos para essa tarefa. Eles exigem GPUs potentes, muita memória e, em geral, chamadas a uma API na nuvem, que o provedor pode rastrear e bloquear. Um modelo compacto funciona de outro jeito. Ele cabe em hardware modesto, roda localmente e não deixa rastros na infraestrutura alheia. Por isso, o avanço na miniaturização de modelos é, ao mesmo tempo, uma conquista tecnológica e um fator de risco.

O que se sabe e o que ainda não se sabe

O resumo público do alerta traz poucos detalhes. Abaixo está o que é possível afirmar com base nos dados disponíveis:

• Autor do alerta: Anthropic, desenvolvedora da família de modelos Claude.
• Prazo: as condições para uma propagação em massa podem se formar até o início do próximo ano.
• Mecanismo: replicação autônoma e infecção de novos tipos de dispositivos sem participação humana.
• Alvos potenciais: servidores, TVs, eletrodomésticos.
• Avaliação da defesa: bloquear a propagação será extremamente difícil.
• Não divulgado: modelos específicos, número de parâmetros, metodologia de avaliação e probabilidade do cenário.

Ainda não se sabe se a projeção se baseia em experimentos de laboratório, em análise de ameaças ou em simulações. Sem um relatório técnico, é difícil distinguir uma avaliação real de risco de um excesso de cautela.

Isso já aconteceu, só que em outra escala

A ideia não é nova. Em 1988, o worm Morris derrubou cerca de seis mil máquinas numa internet ainda minúscula e mostrou a rapidez com que um código autopropagável foge ao controle. Em 2024, pesquisadores da Cornell Tech demonstraram o Morris II: um worm voltado a ecossistemas de IA generativa, que, em condições de laboratório, se espalhava por assistentes de e-mail baseados em modelos de linguagem por meio de prompts autorreplicantes. Foi um experimento em ambiente controlado, mas confirmou o princípio.

Há ainda um problema à parte: de lá para cá, a frota de dispositivos conectados cresceu em ordens de grandeza. TVs, geladeiras e roteadores raramente recebem atualizações e quase nunca são monitorados. Para um worm capaz de "pensar" no local, esse é um ambiente conveniente.

O que fazer já

Administradores de servidores e responsáveis por infraestrutura devem cuidar da higiene básica, que vale independentemente de a previsão se concretizar:

• Fazer um inventário de todos os dispositivos conectados, incluindo equipamentos "inteligentes" nos escritórios.
• Isolar o IoT em segmentos de rede próprios e bloquear seu acesso aos servidores internos.
• Desativar serviços e interfaces remotas sem uso e trocar as senhas de fábrica.
• Ativar o monitoramento do tráfego de saída: um dispositivo infectado se denuncia por conexões anômalas.
• Restringir as permissões de agentes de IA: nada de execução de código nem acesso ao e-mail sem confirmação humana.

Para quem desenvolve agentes de IA, vale lembrar a lição do Morris II: qualquer texto que o agente lê é, potencialmente, um comando. Resta aguardar o relatório técnico da Anthropic. É dele que depende se o alerta se tornará um modelo de ameaças útil para a indústria ou ficará como uma tese sem base de evidências.