Goodfire lança monitores «internos» para agentes de IA que custam menos que a supervisão por LLM

A Goodfire lançou monitores para agentes de IA que prometem controle por uma fração do preço habitual. Em vez de uma segunda LLM lendo cada ação do agente, o sistema observa os sinais internos do próprio modelo enquanto ele trabalha. A verificação cara só entra em cena se o quadro levantar dúvidas. O anúncio não revela o fator exato de redução de custo; a formulação da empresa é «fraction of the cost».

Como funciona a supervisão «por dentro»

Hoje, o jeito padrão de vigiar um agente é este: o agente escreve código, navega por sites e chama ferramentas, enquanto uma segunda LLM lê o log completo e emite um veredito. O esquema é simples de entender, mas a conta cresce de forma linear. Cada token das ações do agente é pago duas vezes: primeiro como trabalho, depois como verificação. Com centenas de agentes rodando por horas, a supervisão vira uma linha separada no orçamento.

A Goodfire atua em interpretabilidade, isto é, no estudo do que acontece dentro da rede neural entre a entrada e a saída. Aqui, essa pesquisa foi transformada em produto. O monitor lê as representações internas do modelo enquanto ele opera e procura nelas sinais de comportamento indesejado. Isso pode incluir engano, extrapolação do escopo da tarefa ou tentativa de contornar restrições. Não é preciso ler todo o texto das ações. Basta um sinal de que algo está errado com o modelo.

Cascata em vez de verificação total

A ideia central está na economia. O monitor interno, barato, funciona o tempo todo e deixa passar o fluxo principal. O nível caro, que pode ser um segundo modelo ou uma pessoa, é acionado de forma seletiva. Muitos sistemas de segurança fora da IA funcionam assim: um sensor simples fica de plantão o tempo todo, e a análise complexa só começa quando o alarme dispara.

Daí vem também a principal pergunta sobre o produto. Uma cascata é tão boa quanto o seu primeiro filtro. Uma violação que passa despercebida não será verificada por ninguém, e um monitor sensível demais chamará a verificação cara com tanta frequência que a economia desaparece. O equilíbrio entre falsos positivos e violações não detectadas não está descrito nos materiais disponíveis.

O que se sabe até agora

• Abordagem: leitura dos estados internos do modelo durante o trabalho do agente, sem ler todo o log separadamente.
• Escalonamento: a segunda verificação só é acionada diante de sinais suspeitos.
• Efeito declarado: o custo da supervisão é uma fração do esquema «LLM vigiando LLM».
• Não divulgado: percentuais exatos de economia, proporção de violações detectadas e proporção de falsos alarmes.
• Não divulgado: lista de modelos compatíveis e se é necessário ter acesso aos pesos.

O último ponto é importante. Só é possível examinar as ativações se houver acesso de baixo nível ao modelo. Com pesos abertos ou um modelo próprio, isso é viável. Com uma API fechada, em que só o texto da resposta fica visível, não dá para conectar esse tipo de monitor. Para empresas que constroem agentes sobre APIs de terceiros, o valor do produto ainda não é evidente.

Visão prática

Por enquanto, é uma promessa, e não um resultado verificado. As afirmações sobre custo vêm da própria empresa, e o anúncio não traz benchmarks independentes. Mesmo assim, a direção parece razoável: à medida que os agentes ganham autonomia, a pergunta «quanto custa vigiar» passa a pesar tanto quanto «quanto custa executar».

Equipes que já mantêm agentes em produção devem medir quanto gastam com supervisão, em porcentagem do custo total da tarefa. Se a verificação por uma segunda LLM consome uma parte relevante do orçamento, vale testar os monitores internos em um piloto. É preciso avaliar não só o preço, mas também o comportamento nos seus próprios cenários: quantas violações reais são detectadas e quantos falsos alarmes precisam ser analisados manualmente. Equipes que trabalham com APIs fechadas fariam bem em esperar para ver se a Goodfire oferecerá uma versão que não exija acesso aos pesos.