O que é RAG: como o ChatGPT e outras redes neurais deixam de errar

O Habr AI explicou como o RAG e os rerankers ajudam o ChatGPT e outros modelos de linguagem a responder com base em documentos, em vez de inventar fatos. A abordagem não se concentra apenas na busca em uma base de conhecimento, mas também em um reranker que escolhe os trechos de contexto realmente relevantes.

O que é RAG e por que isso importa?

RAG é uma abordagem que ajuda os modelos de linguagem a buscar respostas em documentos, em vez de inventar fatos a partir dos próprios pesos. Isso é crítico em cenários corporativos, em que erros do modelo rapidamente viram risco.

Como o reranker ajuda a reduzir as alucinações?

O reranker decide quais trechos de contexto realmente valem ser mostrados ao modelo. Isso melhora a qualidade das respostas, porque o modelo vê apenas as informações mais relevantes.