Ingosstrakh ensina LLM multimodal a duvidar: erros em documentos são detectados por logprobs

A equipe de tecnologias avançadas do Centro de Desenvolvimento de Inteligência Artificial da SPAO «Ingosstrakh» publicou no Habr uma análise de como encontrar erros nas respostas de uma LLM multimodal que extrai dados estruturados diretamente de documentos recebidos, sem passar por OCR. A ferramenta escolhida para isso não exige um modelo avaliador separado: são os logprobs, os logaritmos das probabilidades dos tokens, que o modelo já fornece durante a geração. A questão é prática: quais dos milhares de documentos processados devem ir para uma pessoa e quais podem seguir adiante automaticamente.

JSON válido, sem garantias

A tarefa pertence à classe do Intelligent Document Processing (IDP). A entrada é o scan ou a foto de um documento; a saída é um JSON com campos como nome completo, número do passaporte, datas e valores. O modelo multimodal lê a imagem por conta própria, sem uma etapa intermediária de reconhecimento de texto.

Esse esquema tem uma característica incômoda. Um erro em um dígito do passaporte ou em uma letra do sobrenome não altera o formato da resposta. A estrutura está correta, o parser fica satisfeito, e os dados incorretos seguem para o sistema seguinte como se fossem confiáveis. Os clientes perceberam isso rapidamente e passaram a pedir um confidence score: uma estimativa que permita filtrar resultados suspeitos.

Em pipelines de OCR clássicos, como CRNN, Surya, EasyOCR ou Tesseract, essa estimativa costuma estar disponível por caractere, palavra ou linha. Os autores ressalvam que ela não garante a correção e pode exigir calibração, mas serve como sinal inicial para a seleção. O sistema de LLM da Ingosstrakh não tinha esse sinal.

De onde vem o sinal

A cada passo, o modelo escolhe o próximo token considerando a imagem, a instrução e o texto já gerado. Para o token escolhido, é possível obter o logprob. Quanto menor o valor, menos esperada era a continuação para o próprio modelo.

Uma ressalva importante do artigo: os logprobs não respondem à pergunta «o campo foi reconhecido corretamente?». Eles indicam apenas o quanto o modelo estava confiante ao seguir a própria trajetória. O modelo pode errar com confiança, e uma resposta correta pode receber probabilidade baixa por causa de um formato raro ou de um scan ruim. Por isso, a equipe não usa as probabilidades brutas diretamente: ela constrói a partir delas uma estimativa de risco e a compara com os erros reais nos dados da empresa.

O que se sabe a partir da introdução publicada:

• tarefa: extração de dados estruturados de documentos recebidos (IDP);
• arquitetura: LLM multimodal sem etapa separada de OCR;
• demanda do negócio: confidence score para encaminhar documentos à revisão manual;
• fonte do sinal: token logprobs dos tokens escolhidos;
• validação: em dados reais; as métricas de qualidade específicas estão no artigo completo.

A introdução não traz resultados numéricos, então ainda é cedo para julgar o quanto a estimativa de risco separa as respostas erradas das corretas.

Como aplicar a abordagem

As conclusões abaixo são minhas, a partir da formulação do problema, e não um resumo dos resultados dos autores.

Primeiro: vale avaliar os campos, não o documento inteiro. A confiança média da resposta dilui com facilidade um único token duvidoso no número do passaporte, então faz sentido olhar o mínimo ou outra agregação dos tokens de cada campo.

Segundo: o limiar de revisão deve ser definido de acordo com o custo do erro. Para nome completo e documentos de identificação, ele precisa ser mais rígido do que para campos opcionais.

Terceiro: sem uma amostra rotulada, o sinal é inútil. Para saber se probabilidades baixas se correlacionam com erros reais, são necessárias respostas de referência e uma medição da fatia de erros capturados em comparação com a carga sobre os operadores. A calibração, que os autores mencionam a respeito do OCR, também será necessária aqui.

Quarto: convém revalidar a lógica ao trocar de modelo ou de versão do prompt. A distribuição de probabilidades varia entre modelos, e um limiar ajustado para um pode funcionar de outra forma em outro.

Para equipes que constroem pipelines de processamento de documentos com LLM, a conclusão principal é simples: o confidence score pode ser obtido quase de graça, mas só se torna uma ferramenta de roteamento útil, e não apenas um número, depois de validado nos dados da própria empresa.