FlashProve verifica o modelo por trás de uma resposta a 110 tokens por segundo

Um cliente acessa um modelo caro por meio de uma API, mas não consegue ver o que acontece por trás da interface. Um provedor ou gateway intermediário de IA pode encaminhar discretamente a solicitação a um modelo mais barato e depois cobrar como se tivesse usado o original. Detectar a substituição apenas pelo texto é quase impossível: uma resposta semelhante não comprova qual sistema a calculou.

A Anthropic propôs o FlashProve para resolver esse problema, um protótipo aberto de pesquisa baseado em zkSNARK. Ele permite anexar à resposta uma prova criptográfica de que o resultado foi realmente obtido com os pesos declarados. Os pesos em si não são revelados.

Como funciona na prática

Imagine um serviço corporativo de revisão de código. A empresa exige que cada trecho seja analisado por um modelo de segurança específico antes do lançamento. Hoje, o registro da API mostra apenas o nome do modelo informado na solicitação. Se o roteador o substituir por uma opção mais barata, o registro, por si só, não comprovará nada.

Com o FlashProve, o fornecedor primeiro cria um compromisso criptográfico dos pesos do modelo. Depois de processar a solicitação, ele gera uma prova compacta vinculada a esse compromisso e ao resultado do cálculo. O cliente verifica a prova em um processador convencional e recebe a confirmação de que o modelo exigido produziu a resposta, sem obter acesso aos seus parâmetros proprietários.

Em um teste com o Llama 4 Maverick, um modelo de 400 bilhões de parâmetros, o sistema gerou provas para aproximadamente 110 tokens por segundo em um único acelerador Nvidia H100. Cada prova ocupava cerca de 19 MB, e a verificação levava 17 segundos em uma CPU padrão.

Isso representa um avanço significativo em relação à solução aberta comparável anterior. Segundo a Anthropic, aquele sistema levava mais de 14 horas para processar 1.000 tokens, produzia uma prova de 93,6 GB e exigia quase um dia inteiro para verificá-la.

Onde a tecnologia pode ser útil

O primeiro caso de uso é a auditoria de provedores e roteadores de IA. O cliente poderia verificar se o serviço realmente usou o modelo pelo qual pagou, em vez de um substituto mais barato. Isso é particularmente importante para plataformas que distribuem solicitações automaticamente entre vários fornecedores.

O segundo caso são os processos regulamentados. Uma organização poderia comprovar a um auditor que documentos, código de software ou decisões foram verificados por um modelo aprovado. O terceiro é o controle da infraestrutura: o aparecimento inesperado de outro modelo na cadeia computacional pode indicar um erro de configuração ou uma interferência.

O FlashProve não exige hardware confiável. Essa característica o diferencia de sistemas que assinam o tráfego e monitoram os cálculos dentro de um servidor controlado. A prova criptográfica pode ser verificada de forma independente da infraestrutura do fornecedor.

Por que ainda é cedo para integrar o FlashProve a um produto

A principal limitação é o custo. A criação de uma prova aumenta os custos computacionais em cerca de 70–95 vezes em comparação com a inferência convencional. Para um serviço de chat de grande escala, esse acréscimo ainda é inaceitável, mesmo que a prova em si seja gerada com relativa rapidez.

O contexto é limitado a 1024 tokens, o que é insuficiente para assistentes modernos, documentos longos e grandes repositórios. O protótipo também funciona apenas com decodificação gulosa, na qual o modelo sempre escolhe o próximo token mais provável. Chatbots convencionais usam amostragem aleatória para tornar as respostas menos repetitivas. Além disso, a prova oculta os pesos, mas não a arquitetura do modelo.

Portanto, o FlashProve ainda não é um módulo pronto para produção, mas um sinal do surgimento de uma nova camada da infraestrutura de IA: a inferência verificável. Desenvolvedores de gateways devem começar a armazenar os identificadores dos modelos, os parâmetros de geração e toda a cadeia de roteamento. As equipes de produto devem identificar as operações em que a prova da procedência de uma resposta realmente justifica o custo adicional, como auditorias de código, decisões financeiras, processos médicos ou conformidade regulatória.

O código, as provas formais em Lean e a documentação foram publicados sob a licença Apache 2.0. Já é possível experimentar, mas ainda não se pode prometer aos clientes a operação verificável de um chatbot convencional.