Yandex Lavka brise le cercle vicieux des recommandations grâce à une exploration personnalisée

Ramil Boyarchenkov, spécialiste du machine learning dans l'équipe de Yandex Lavka, raconte sur Habr comment le service s'est attaqué au cercle vicieux des recommandations : un effet qui rend un système de recommandation bien entraîné prisonnier de sa propre précision.

Le problème des bonnes recommandations

Selon l'auteur, plus le système devine précisément ce que l'utilisateur va mettre dans son panier, moins il lui montre de produits inconnus. Proposer des articles éprouvés rapporte davantage en ventes à court terme. Avec le temps, le système de recommandation s'enferme dans les habitudes déjà installées de l'utilisateur et ne l'en fait plus sortir, même lorsque ses centres d'intérêt évoluent. Le système ne remarque tout simplement pas ces changements, faute de percevoir des signaux au-delà de l'assortiment qu'il connaît déjà.

La correction frontale, qui consiste à ajouter des produits inconnus dans les résultats, pénalise presque toujours les métriques : le volume des achats immédiats baisse inévitablement dès que l'on propose à l'utilisateur des articles sur lesquels le système n'a pas de certitude.

Comment fonctionne le nouveau mécanisme

L'équipe de Yandex Lavka a conçu un mécanisme qui n'injecte pas les produits inconnus au hasard, mais de façon personnalisée : il cible les utilisateurs statistiquement enclins à essayer quelque chose de nouveau.

• Les produits inconnus sont injectés de manière personnalisée, et non de façon identique pour tous les utilisateurs
• Une probabilité individuelle d'affichage des nouveautés est calculée pour chaque utilisateur
• L'équipe a calibré l'« agressivité » de l'exploration, c'est-à-dire l'arbitrage entre le risque de montrer une nouveauté décevante et le bénéfice d'élargir l'horizon des recommandations
• L'auteur de l'article est Ramil Boyarchenkov, ingénieur en machine learning chez Yandex Lavka

L'idée : concentrer l'exploration là où le gain potentiel de la découverte d'un nouveau produit dépasse la perte probable de ventes à court terme, plutôt que de disperser uniformément les nouveautés sur toute l'audience, une approche plus risquée.

Pourquoi une simple formule ne suffit pas

L'arbitrage entre exploration (tenter de montrer quelque chose de nouveau à l'utilisateur, au détriment de la précision) et exploitation (s'appuyer sur des préférences déjà validées) est un problème classique, que connaît tout système de recommandation, des services de streaming musical aux marketplaces. On peut le formaliser mathématiquement, mais en pratique le bon réglage dépend des spécificités de chaque activité. Dans la livraison de courses, où la décision d'achat est rapide et émotionnelle, une exploration trop agressive risque de décevoir l'utilisateur avec un produit inconnu et peu savoureux ; une exploration trop prudente laisse le système enfermé dans l'assortiment déjà connu.

C'est pourquoi l'équipe de Yandex Lavka a dû calibrer empiriquement le degré d'agressivité de l'exploration, au lieu de reprendre une solution universelle clés en main.

Ce que voit l'utilisateur final

Pour le client de Yandex Lavka, le changement n'est pas directement perceptible : il voit simplement, de temps à autre, dans sa sélection de recommandations, un produit qu'il n'a jamais acheté et qu'il n'a peut-être même jamais cherché. Derrière cet affichage ponctuel se cache pourtant un calcul : la probabilité que cet utilisateur précis soit prêt à essayer une nouveauté sans être déçu par le service. Cette personnalisation fine de l'exploration distingue l'approche de Yandex Lavka de schémas plus grossiers, qui injectent uniformément des nouveautés dans le flux de tous les utilisateurs et perdent ainsi une partie des ventes auprès de ceux qui n'apprécient pas ces expériences.

Ce que cela signifie

Ce cas illustre bien comment un problème que connaît tout système de recommandation, l'arbitrage entre exploration et exploitation, se résout non par une formule abstraite, mais par un calibrage appliqué à une activité et à un utilisateur précis. La personnalisation de l'exploration permet d'élargir l'horizon des recommandations sans sacrifier les ventes à court terme. Cette approche s'applique bien au-delà de la livraison de courses : à tout service dont le système de recommandation risque de tourner en boucle sur des produits que l'utilisateur connaît déjà.