Ettin Reranker: como uma rede neural melhora a precisão da busca

A Hugging Face lançou o Ettin Reranker, uma rede neural para reordenar resultados de busca. Trata-se de uma família de 6 modelos treinados por destilação a partir de um modelo maior.

O que é um reranker e como ele se diferencia dos modelos de embeddings comuns?

Um reranker (cross-encoder) é uma classe especial de modelos que recebe como entrada um par (consulta, documento) e devolve uma única pontuação de relevância. A diferença central: o reranker codifica as duas sequências em conjunto, permitindo que uma enxergue a outra ao longo de todas as camadas do transformer. Isso resulta em uma estimativa de relevância mais precisa do que a dos embeddings comuns.

Como um reranker se diferencia dos modelos de busca comuns?

Um reranker (cross-encoder) codifica a consulta e o documento em conjunto, ao longo de todas as camadas do transformer, permitindo que um enxergue o outro. Isso gera uma pontuação de relevância mais precisa do que a dos modelos de embeddings, que codificam as sequências separadamente.