Conflito de conhecimento em RAG: por que é preciso uma probabilidade de acerto do contexto, não um algoritmo rígido

Conflito de conhecimento em RAG: por que é preciso uma probabilidade

de acerto do contexto, não um algoritmo rígido

Em maio de 2024, o buscador do Google chegou a recomendar seriamente que os usuários adicionassem cola à sauce de pizza e comessem uma pedra por dia — o modelo repetiu fielmente uma piada de fórum e um artigo satírico encontrados na internet, mesmo tendo conhecimento próprio suficiente para perceber a brincadeira. Esse episódio se tornou uma ilustração perfeita de um problema agora dissecado por pesquisadores do Instituto de Correios e Telecomunicações de Hanói: quando um modelo com busca integrada (RAG) tem duas fontes possíveis de resposta — o texto recuperado e sua própria memória — e elas se contradizem, não fica claro em qual confiar.

Por que regras rígidas não funcionam

Todas as abordagens existentes resolvem esse conflito da mesma forma: a direção da confiança é escolhida de antemão, ainda na fase de design. Alguns métodos sempre seguem o texto recuperado; outros amplificam sua influência proporcionalmente a quanto ele "puxa" a resposta do modelo para o seu lado; outros ainda dependem exclusivamente da memória do modelo. Os autores provaram matematicamente que qualquer regra fixa desse tipo se comporta como uma linha reta em um gráfico que relaciona a qualidade da resposta com a proporção de contextos "corretos" — enquanto o melhor resultado possível é descrito por uma curva convexa que fica acima dessa linha em todos os pontos, exceto em um único ponto.

Ou seja, qualquer regra rígida está garantida a perder quase sempre, e isso não é uma questão de ajuste de parâmetros, mas uma inevitabilidade matemática.

Os pesquisadores analisaram separadamente o popular método AdaCAD, que mede o quanto as respostas do modelo "com texto" e "sem texto" diferem (usando a divergência de Jensen-Shannon) e amplifica a influência do contexto proporcionalmente a essa diferença. O problema é que essa métrica é simétrica: ela reage da mesma forma tanto em situações em que "o texto está certo e o modelo errado" quanto no caso inverso. Os testes mostraram que a divergência é, em média, a mesma, independentemente de o modelo estar certo ou não.

Como resultado, justamente onde o texto está errado, o AdaCAD empurra o modelo com mais força em direção à resposta incorreta — em 70% dos casos, contra 20% de um método simples, sem truques especiais.

Como a solução funciona

Para testar todas essas ideias de forma justa, os autores criaram o benchmark GRACE a partir de perguntas baseadas na base de conhecimento Wikidata. O truque está em que, para a mesma pergunta, o contexto é deliberadamente corrompido ou corrigido de quatro maneiras diferentes: permanece intacto, perde o fato necessário, é substituído por um fato incorreto, ou recebe simultaneamente uma versão correta e uma incorreta. Isso permite medir com precisão o que o modelo sabe, o que o texto diz e o que é realmente verdade — de forma independente entre si.

A solução consiste em três etapas:

• Notas de conhecimento. Antes de ler o contexto, o modelo formula várias vezes — uma de forma determinística e cinco com aleatoriedade — o que sabe sobre o tema, na forma de afirmações separadas. O que o modelo repete da mesma forma a cada vez, provavelmente ele realmente sabe; o que muda de uma execução para outra, provavelmente está apenas chutando.
• Calibração de confiança. Um pequeno modelo treinado (um transformer de duas camadas) avalia cada uma dessas afirmações e atribui a ela um nível de confiança numérico, ajustado para que a confiança declarada reflita o mais precisamente possível a probabilidade real de acerto. Isso é obtido por meio de uma função de recompensa especializada, que penaliza a confiança falsa com mais rigor do que recompensa a confiança correta.
• Decisão final. Um módulo "juiz" dedicado (gradient boosting) compara as respostas candidatas derivadas do texto e da memória do modelo, aplica uma probabilidade predefinida de "com que frequência o contexto costuma estar certo nesse cenário" e, então, escolhe a melhor opção ou se recusa honestamente a responder se a confiança for insuficiente.

Resultados e o que isso significa na prática

No benchmark GRACE, o sistema superou o melhor dos treze métodos alternativos testados em qualquer proporção de contextos corretos e incorretos — o ganho chegou a 26 pontos e nunca caiu em uma perda significativa. A pontuação média final foi de 45,3 para o modelo Qwen3.5-35B-A3B e de 35,0 para o Llama-3.1-8B, contra 29,4 e 27,5 dos melhores métodos concorrentes. No benchmark externo independente ClashEval, preparado de antemão (sem ajuste específico para ele), o sistema superou os métodos CK-PLUG e TCR por 12 e 26 pontos, respectivamente.

Uma ressalva importante: a vantagem desaparece nos casos em que o próprio modelo não conhece a resposta — o que é esperado, já que toda a ideia se baseia em comparar o conhecimento do modelo com o texto, e não em adivinhar magicamente a verdade. Para engenheiros que constroem sistemas RAG, a conclusão prática é simples: não vale a pena buscar um único coeficiente de confiança universal para a busca — é preciso avaliar explicitamente a probabilidade de acerto do contexto para o cenário de uso específico e incorporá-la ao sistema como um parâmetro ajustável, em vez de embutir uma regra rígida no código.