AWS mostra como avaliar agentes de IA em 3 modos: da depuração à produção

Um cliente pediu o reembolso de um pedido e uma explicação sobre como cancelar a assinatura. O agente processou o reembolso, despediu-se educadamente e esqueceu a assinatura. A velocidade da resposta foi boa, assim como o tom. Para o cliente, porém, a tarefa continuou incompleta. Em um novo artigo, a AWS explica como identificar essas falhas com o Amazon Bedrock AgentCore Evaluations: avaliar ações individuais do agente e o resultado de toda a conversa e, depois, usar essas verificações antes do lançamento e no tráfego real.

É uma análise prática dos recursos do serviço. Seu valor está em conectar a avaliação do agente ao trabalho concreto pelo qual uma empresa paga. O artigo, por si só, não oferece base para afirmar que as verificações descritas melhoram a qualidade em determinado percentual ou garantem a prevenção de erros.

Primeiro, defina o que conta como trabalho concluído

A AWS propõe começar pelo resultado de negócio. No suporte, isso pode significar resolver o problema em um único contato. Para um agente de pesquisa, pode ser uma resposta completa, com fontes, fundamentada nos documentos encontrados. Depois, é preciso decompor o resultado em ações observáveis: o agente atendeu a todas as solicitações, preservou detalhes importantes da conversa, escolheu a ferramenta adequada e passou os parâmetros corretos para ela.

Voltemos ao reembolso. Nesse caso, três verificações independentes são úteis. GoalSuccessRate avalia se o objetivo foi alcançado ao longo de toda a sessão. ConversationCompleteness, do DeepEval, ajuda a identificar a pergunta esquecida sobre a assinatura. PIILeakage verifica se o agente revelou dados pessoais. Um reembolso bem-sucedido, por si só, não diz nada sobre os outros dois resultados.

O escopo da avaliação também importa. A correção dos argumentos de uma chamada de ferramenta pode ser avaliada em uma ação específica. Para saber se o agente respondeu a todas as perguntas, é necessário analisar a conversa inteira. Se apenas a última resposta for examinada, parte dos erros ficará fora de vista.

Um conjunto de verificações para três modos

O AgentCore oferece avaliadores integrados da AWS, verificações gerenciadas do DeepEval e do AutoEval, além de opções personalizadas. Os avaliadores integrados abrangem a qualidade das respostas, a execução de tarefas, o uso de ferramentas e outros comportamentos. No modo gerenciado de verificações de terceiros, o serviço hospeda o código, escolhe o modelo avaliador e executa as solicitações em sua própria infraestrutura. As opções personalizadas permitem alterar o modelo, as instruções e os critérios de avaliação.

Há três maneiras de executá-los. Durante a depuração, o desenvolvedor envia uma sessão registrada à API e recebe uma avaliação com uma explicação. Antes do lançamento, a equipe executa um conjunto fixo de conversas para observar os efeitos de uma mudança no prompt ou no modelo. Em produção, o serviço avalia uma parcela definida do tráfego real. Os mesmos identificadores de avaliadores são usados nos três modos.

Também é possível avaliar vários critérios com uma única chamada ao modelo. Por exemplo, verificar separadamente a resolução do problema, o cumprimento das regras de reembolso e o tom profissional. Os resultados são apresentados para cada critério, sem uma pontuação geral agregada. Isso ajuda a estabelecer requisitos independentes para o lançamento: uma melhora no tom não deve compensar uma violação de política.

Faz sentido combinar verificações quando elas precisam dos mesmos dados e do mesmo modelo. Se um critério exige uma resposta de referência e outro pode ser avaliado a partir de uma conversa real, é mais prático mantê-los separados.

Onde a avaliação automática encontra seus limites

Algumas verificações exigem uma resposta correta conhecida de antemão ou uma sequência esperada de chamadas de ferramentas. Segundo a descrição da AWS, essas verificações estão disponíveis no modo em lote: no tráfego real, normalmente não há uma resposta de referência. Por isso, o conjunto de testes antes do lançamento e o monitoramento em produção cumprem funções diferentes, mesmo quando usam um catálogo compartilhado.

Outra limitação é o próprio modelo avaliador. Sua pontuação precisa ser confrontada com o que a equipe considera sucesso. No caso de reembolsos, é útil comparar a avaliação da conversa com o resultado efetivo da operação no sistema de pedidos. Uma boa explicação do modelo ainda não confirma que o dinheiro foi realmente devolvido.

Um ponto de partida prático para a equipe é escolher dois ou três tipos de falhas relevantes e reunir conversas em que elas apareçam. Depois, verificar se os avaliadores detectam essas falhas e, só então, ativar o monitoramento do tráfego. A AWS não apresenta cálculos de custos ou de economia neste artigo. Cada equipe precisará avaliar o orçamento das verificações e a confiança em seus resultados com base nas próprias sessões.