Tesouro dos EUA quer acesso ao modelo Mythos, da Anthropic, para buscar vulnerabilidades

O Tesouro dos EUA quer acesso ao modelo Mythos, da Anthropic, para começar a procurar vulnerabilidades no sistema antes de seu uso mais amplo em cenários sensíveis. O próprio pedido mostra que as agências americanas estão passando das conversas gerais sobre IA para a verificação prática de modelos específicos quanto a confiabilidade, controlabilidade e resistência a abusos.

Segundo as informações disponíveis, a equipe de tecnologia do Tesouro americano tenta obter acesso ao Mythos. O objetivo parece não ser adotar o modelo por produtividade, mas realizar uma auditoria de segurança: os especialistas querem entender onde o sistema pode falhar, como se comporta diante de pedidos atípicos e se é possível forçá-lo a extrapolar suas próprias restrições.

Ainda não há detalhes oficiais sobre o formato da verificação, nem confirmação de que a Anthropic já tenha concedido acesso. As características técnicas do Mythos também não foram reveladas, então é cedo para dizer se é um produto interno, especializado ou em preparação para uso mais amplo.

Para o governo dos EUA, esse trabalho parece lógico. Quanto mais os órgãos estatais consideram a IA para analisar dados, preparar documentos, apoiar funcionários e automatizar processos internos, maior o custo dos erros. Em sistemas federais, os problemas podem não ser apenas de reputação. Podem incluir vazamento de informações sensíveis, contorno de mecanismos de proteção, geração de recomendações não confiáveis ou um comportamento do modelo que pode ser provocado de propósito. Por isso, o acesso ao modelo numa etapa inicial importa tanto quanto as promessas públicas do desenvolvedor sobre segurança.

Se a equipe do Tesouro de fato começar os testes, provavelmente buscará os pontos fracos típicos dos sistemas generativos atuais. Esse tipo de verificação costuma incluir tentativas de contornar restrições embutidas, obter respostas perigosas, extrair instruções ocultas, testar a resistência a injeções de prompt e avaliar como o modelo lida com dados confidenciais e contextos longos. Isso não significa que tais problemas já tenham sido encontrados no Mythos. É mais o conjunto padrão de perguntas feitas hoje a qualquer modelo avançado, sobretudo se órgãos de alta responsabilidade puderem usá-lo.

A escolha da empresa chama atenção. A Anthropic há tempos constrói a reputação de desenvolvedora que aposta em segurança e comportamento controlado dos modelos. Se até para esses sistemas o governo quer acesso direto para seus próprios testes de estresse, isso reforça um novo padrão na relação entre autoridades e empresas de IA: garantias gerais não bastam, são necessárias verificações reais por parte do cliente ou do regulador. Para os desenvolvedores, isso significa pressão extra: será preciso se preparar não só para a concorrência de mercado, mas para auditorias técnicas cada vez mais profundas.

A história também importa porque muda a lógica do interesse estatal por IA. Até pouco tempo atrás, as autoridades discutiam principalmente regras, riscos e abordagens gerais. Agora o foco se desloca para modelos específicos, cenários específicos e vulnerabilidades específicas. É uma etapa mais prática: em vez de regulação abstrata, surgem tentativas de entender como o sistema se comporta em condições reais de estresse. Para o mercado, é um sinal de que a confiança em modelos de ponta será cada vez mais construída com base em resultados de verificações independentes, e não em apresentações.

A conclusão principal é simples: o governo começa a tratar sistemas avançados de IA como outras tecnologias críticas: primeiro o acesso, depois os testes e só então, possivelmente, a adoção. Para a Anthropic, pode ser um teste de maturidade de sua abordagem de segurança; para todo o mercado, um indício de que a era das promessas informais está acabando e começa a era da verificação obrigatória.