Autor do Habr propõe critérios de aceitação para agentes de IA: o «pronto» exige provas

O erro mais caro de um agente de IA em produção parece sucesso: um «pronto» curto, sem nada por trás. O autor de um artigo recente no Habr propõe mudar o foco da qualidade da resposta para a aceitação do trabalho: o que exatamente precisa acontecer para que a tarefa possa ser considerada encerrada. A tese da introdução é dura. Um assistente que sugere formulações pode ter um parágrafo ruim perdoado. Um agente que altera dados de produção, não.

O trecho aberto do material não traz benchmarks nem metodologias específicas, que ficam para a versão completa no Habr. Mesmo assim, a formulação da questão é precisa e merece análise, porque é justamente aí que hoje passa a fronteira entre demo e produção.

Por que o «pronto» não prova nada

O assistente gera um texto, a pessoa lê e decide o que fazer com ele. O ponto de controle já faz parte do processo. O agente, por sua vez, age sozinho: grava no CRM, edita planilhas, executa scripts, envia e-mails. O relatório «tarefa concluída» continua sendo um texto gerado, como qualquer outra resposta do modelo. Ele pode coincidir com o estado do sistema ou não.

O cenário a seguir é conhecido. Algum colega vai conferir, encontra divergências, refaz tudo à mão e dá explicações a quem foi afetado. O custo do erro sai do agente e vai para as pessoas, e de forma discreta: nas estatísticas de automação, a tarefa consta como concluída.

Aceitação em vez de confiança

A lógica da aceitação vem da engenharia convencional. Os critérios de encerramento da tarefa são fixados antes da execução e verificados pelo estado do sistema, e não pelo resumo do agente. O registro foi de fato criado. O campo necessário foi alterado. O número de linhas afetadas bate com o esperado. Nada além disso foi tocado.

Na prática de engenharia, costumam-se distinguir três níveis dessa verificação:

• resultado: o estado desejado foi alcançado, e isso é visível no próprio sistema;
• limites: a comparação do estado antes e depois mostra apenas as alterações planejadas;
• rastro: o log de ações do agente permite reconstruir o que exatamente ele fez e em que ordem.

Os níveis se complementam. Verificar só o resultado, sem checar os limites, deixa passar alterações colaterais, e um log sozinho, sem verificação do resultado, vira uma bela narrativa de como tudo teria dado certo.

Quais métricas vale medir

Enquanto a aceitação não é medida, a discussão fica no campo das impressões. Este é o conjunto mínimo de indicadores para uma equipe que coloca um agente em um processo de trabalho:

• taxa de falsos «prontos»: tarefas declaradas encerradas que não passaram na verificação;
• proporção de tarefas aceitas sem correção humana;
• tempo que uma pessoa gasta para verificar uma tarefa;
• proporção de tarefas cuja verificação é automatizada;
• número de reversões de alterações no período.

O importante é olhar esses números em conjunto. Se o agente encerra muitas tarefas, mas o tempo de reconferência manual cresce, a economia é fictícia.

Por onde começar na prática

Escolha uma tarefa que o agente já executa e, antes da próxima execução, registre os critérios de encerramento de forma verificável. Se um critério não puder ser checado por um script ou uma consulta, ele é vago demais e precisará ser reformulado.

Depois, separe quem verifica de quem executa. Uma verificação que o próprio agente roda e interpreta repete o problema original. Uma consulta simples ao banco de dados ou a comparação de exportações de antes e depois é mais confiável do que o autorrelato.

Por fim, mantenha uma pessoa como controladora por amostragem onde o erro é caro: alterações em massa de dados, operações de pagamento, envio externo de mensagens. Para o resto, basta a aceitação automática com um limite claro, acima do qual a tarefa volta para verificação manual.

A ideia do autor do Habr se resume a uma regra simples: o agente só ganha o direito de dizer «pronto» junto com a prova. Para um mercado em que agentes estão sendo colocados em massa nos processos de trabalho, é um padrão sensato e barato.