Anthropic e OpenAI ensaiam a reação à primeira grande catástrofe de IA

Executivos da Anthropic, da OpenAI e de várias outras empresas que trabalham com inteligência artificial estão simulando, de forma privada, cenários para o primeiro incidente de grande escala relacionado à IA. A discussão se concentra, antes de tudo, na reação externa: como a sociedade e os políticos vão responder quando uma falha atingir milhões de pessoas. Um dos cenários é um ciberataque que deixa as pessoas sem acesso a serviços financeiros e à internet e, na pior hipótese, sem eletricidade e água.

Há poucos detalhes públicos. A fonte não cita números, probabilidades nem prazos, e também não revela quais medidas exatamente as empresas estão preparando. Ainda assim, o simples fato de esses exercícios existirem diz muito. Durante anos, a indústria falou sobre riscos sobretudo na linguagem de relatórios técnicos. Agora ela ensaia um cenário em que quem terá de dar explicações não são os pesquisadores, mas os legisladores e os eleitores.

O que se sabe até agora

• Participantes: executivos da Anthropic, da OpenAI e de outras empresas de IA.
• Formato: discussões fechadas, com "encenação" de cenários.
• Tema: insatisfação da população e reação política a um grande incidente.
• Cenário-chave: ciberataque a serviços financeiros, à internet, ao sistema de energia e ao abastecimento de água.
• Desconhecido: estimativas de probabilidade, possíveis medidas de proteção e o papel do Estado nesses planos.

Por que o foco está justamente no ciberataque?

A escolha do cenário não é casual. Entre todos os riscos discutidos em torno dos modelos avançados, a cibersegurança é o mais concreto. Ela dispensa superpoderes hipotéticos: basta um modelo que escreva código, encontre vulnerabilidades e atue como agente autônomo. Os dois laboratórios já incorporaram esse risco aos seus próprios frameworks. Na OpenAI, a cibersegurança faz parte das categorias do Preparedness Framework; a Anthropic tem a Responsible Scaling Policy, com seus níveis de segurança. Em novembro de 2025, a própria Anthropic relatou uma campanha em que criminosos usaram o Claude Code para automatizar boa parte de uma operação de espionagem. Não foi um incidente catastrófico, mas mostrou para onde a prática caminha.

A infraestrutura crítica soma um problema social ao problema técnico. Pagamentos bancários, telecomunicações, redes elétricas e companhias de água estão interligados. Uma falha em um elo rapidamente vira efeito cascata, e quem ficar sem dinheiro, comunicação ou água não terá interesse em descobrir quem é o culpado: o atacante, o desenvolvedor do modelo ou o operador da rede.

O golpe político pesa mais que o técnico

A história das crises tecnológicas mostra que a regulação que vem depois de uma catástrofe de grande repercussão chega rápido e raramente é cuidadosa. Se um incidente for associado à IA, o setor inteiro entrará sob pressão, inclusive empresas que não têm relação com o caso. Entre as consequências possíveis, é plausível esperar exigências rígidas de acesso aos modelos, relatórios obrigatórios e responsabilização dos desenvolvedores. São suposições lógicas, não planos declarados das empresas.

Por isso, os laboratórios preparam não só "planos B" técnicos, mas também a comunicação e o relacionamento com os reguladores. Quem explicar primeiro o que aconteceu e mostrar o que havia feito com antecedência ganhará mais confiança. Quem ficar calado corre o risco de ver uma lei escrita às pressas.

O que equipes e empresas devem fazer

Os exercícios dos laboratórios não dispensam a preparação de cada empresa. Se o seu produto depende de um provedor de IA, vale verificar alguns pontos:

• Mapeie as dependências: quais processos vão parar se a API ficar indisponível por algumas horas ou dias.
• Tenha um provedor reserva ou um modelo local para as funções críticas.
• Limite as permissões dos agentes de IA: o mínimo de acesso a sistemas de pagamento, de produção e de infraestrutura, e confirmação humana obrigatória para ações perigosas.
• Inclua no plano de resposta a incidentes o cenário "componente de IA comprometido ou indisponível" e teste-o em exercícios.
• Mantenha procedimentos manuais para pagamentos e comunicação nos casos em que uma interrupção afeta pessoas.

A conclusão principal é simples: a própria indústria trata um grande incidente como uma questão de "quando", não de "se". É mais sensato se preparar com antecedência, enquanto o cenário ainda é apenas um exercício.