Ettin Reranker : comment un réseau de neurones affine la précision de la recherche

Hugging Face a publié Ettin Reranker, un réseau de neurones destiné à reclasser les résultats de recherche. Il s'agit d'une famille de 6 modèles entraînés par distillation à partir d'un modèle plus grand.

Qu'est-ce qu'un reranker et en quoi diffère-t-il des modèles

d'embeddings classiques ? Un reranker (cross-encoder) est une classe particulière de modèles qui prennent en entrée une paire (requête, document) et renvoient un unique score de pertinence. La différence essentielle : le reranker encode les deux séquences ensemble, ce qui leur permet de se « voir » à travers toutes les couches du transformeur. L'estimation de la pertinence est ainsi plus précise qu'avec les embeddings classiques.

En quoi un reranker diffère-t-il des modèles de recherche classiques ?

Un reranker (cross-encoder) encode la requête et le document ensemble, à travers toutes les couches du transformeur, ce qui leur permet de se voir mutuellement. Le score de pertinence est plus précis que celui des modèles d'embeddings, qui encodent les séquences séparément.