WeFair-2B dans la recherche de vidéos courtes de WeChat : le CTR grimpe de 2,951%

La recherche de vidéos courtes vit de requêtes ambiguës : l'utilisateur tape deux mots, et ce qu'il veut voir dépend de ses recherches et visionnages récents. L'équipe de l'East China Normal University présente WeFair, une méthode pour entraîner un modèle compact de 2 milliards de paramètres. Celui-ci réécrit la requête en tenant compte du contexte de l'utilisateur, sans en substituer l'objectif. WeFair-2B fonctionne déjà dans la recherche de vidéos courtes de WeChat et traite plus de 100 millions de requêtes par jour. Lors d'un test A/B de 10 jours, le CTR relatif a progressé de 2,951%, la part de vues vidéo effectives de 2,593%, et la part de reformulations de requêtes a diminué de 2,350%.

Le problème : un classement guidé par l'engagement éloigne de la requête

Les approches précédentes distillent le raisonnement de grands modèles dans un petit modèle de réécriture, puis l'ajustent à partir des signaux de consommation ultérieure des contenus : ce que l'utilisateur a regardé après l'affichage des résultats. Les auteurs soulignent un effet secondaire. Une telle récompense pousse le modèle vers des requêtes qui trouvent du contenu « addictif », et non ce que la personne cherchait.

C'est ce qu'on appelle la dérive d'intention (intent drift). Dans l'exemple de l'article, la requête « crepe cake » dérive vers des recettes, alors que l'utilisateur voulait regarder des gens manger ce gâteau. La requête réécrite s'appuie pourtant sur l'historique réel de l'utilisateur, ce qui rend ce type d'erreur difficile à détecter par des contrôles formels.

Les grands modèles ne conviennent pas à cette tâche, pour deux raisons. Ils comprennent moins bien la diversité des intentions des utilisateurs d'une plateforme donnée, et la latence de chaque appel est trop élevée pour une recherche en temps réel. En production, il faut donc un petit modèle, qui décide aussi s'il faut réécrire la requête ou la laisser telle quelle.

Trois étapes, trois niveaux de rigueur du signal

L'idée de WeFair consiste à choisir, pour chaque étape de l'entraînement, un niveau de fiabilité du retour d'information.

• Démonstrations (SFT). L'entraînement porte d'abord sur des paires « contexte → requête », puis sur des raisonnements à partir du contexte, enfin sur la prédiction directe d'une reformulation ou du maintien de la requête. Un signal moins précis mais plus large est acceptable ici.
• Préférences (DPO). Les paires de candidats se distinguent par la consommation ultérieure, et le modèle apprend à choisir ceux associés à une meilleure adéquation avec l'intention personnelle.
• Vérification (GRPO). La récompense n'est accordée que pour une correspondance exacte avec la reformulation réelle de l'utilisateur, ou avec la décision de laisser la requête inchangée. Les auteurs n'ajoutent ni score de similarité gradué, ni récompense issue de la recherche, ni récompense issue d'un modèle juge.

Une analyse complémentaire montre qu'une supervision large aide au stade SFT, et qu'une vérification stricte à l'étape finale donne de meilleurs résultats que les récompenses auxiliaires testées. Selon les auteurs, des signaux plus fins dégradent la précision de la réécriture. À l'inférence, le modèle produit directement une courte réécriture ou un marqueur « conserver », sans générer de chaîne de raisonnement, ce qui économise de la latence.

Comment les données d'entraînement ont été constituées

Les données proviennent des sessions de recherche WeChat, sous forme anonymisée. Pour le jeu « contexte → requête », les auteurs retiennent les requêtes ayant donné lieu à au moins un visionnage vidéo effectif (de plus de dix secondes) et vérifient via DeepSeek-V4-Flash que le contexte les justifie. Pour le jeu de reformulations, ils relient des requêtes voisines d'une même session : la première n'a suscité aucun clic sur une vidéo, la seconde a entraîné un visionnage effectif. Les requêtes déclenchées par les suggestions du système sont exclues.

Un filtre en deux étapes s'applique ensuite. Des règles éliminent les ajouts composés de mots grammaticaux du chinois, les paires à faible recouvrement de caractères (selon la similarité de Jaccard) et les cas sans appui contextuel. Cela retire environ la moitié des candidats. Ensuite, trois LLM de raisonnement votent sur la continuité de l'intention et le gain d'information, puis trois autres vérifient le « pont contextuel » entre le détail ajouté et la requête. Environ un tiers des candidats passe. Les exemples rejetés à cette dernière étape deviennent des négatifs difficiles pour la conservation : le modèle apprend ainsi à ne pas inventer de personnalisation sans appui.

Ce qu'il faut garder en tête

Les résultats proviennent de la plateforme interne de WeChat et ne peuvent pas être reproduits de façon indépendante. Une partie du pipeline dépend de règles propres au chinois et de journaux comportementaux fermés. La description d'origine ne compare pas le modèle à des modèles de référence avec des métriques hors ligne chiffrées ; elle conclut seulement à une supériorité en précision globale et en préservation de l'intention.

Pour les équipes qui construisent des modèles de réécriture en recherche ou en recommandation, la leçon pratique est de ne pas mélanger des signaux de fiabilité différente au sein d'une même étape. Les données comportementales larges conviennent au démarrage et aux préférences, mais à l'étape finale de RL, la récompense doit être aussi pure que possible. La requête d'origine reste alors l'ancre pour l'affichage et le classement, tandis que la réécriture ne fait qu'élargir le pool de candidats.