Yandex Lavka rompe el círculo vicioso de sus recomendaciones con exploration personalizada

Ramil Boyarchenkov, especialista en machine learning del equipo de Yandex Lavka, ha contado en Habr cómo el servicio abordó el problema del círculo vicioso de las recomendaciones: un efecto por el que un sistema de recomendación bien entrenado acaba siendo rehén de su propia precisión.

Cuál es el problema de las buenas recomendaciones

Según el autor, cuanto mejor acierta el sistema con lo que el usuario añadirá a la cesta, menos le muestra productos desconocidos, porque ofrecer artículos ya probados resulta más rentable en términos de ventas a corto plazo. Con el tiempo, el sistema de recomendación se encierra en los hábitos ya consolidados de la persona y deja de sacarla de ellos, incluso cuando sus intereses cambian. El sistema simplemente no detecta esos cambios, porque no ve señales fuera del conjunto de productos que ya conoce.

Intentar corregir la situación por la vía directa, añadiendo productos desconocidos a los resultados, casi siempre penaliza las métricas: el volumen de las compras inmediatas cae inevitablemente si se ofrece al usuario algo sobre lo que el sistema no tiene certeza.

Cómo funciona el nuevo mecanismo

El equipo de Yandex Lavka creó un mecanismo que no mezcla los productos desconocidos al azar, sino de forma personalizada: los dirige a los usuarios que, estadísticamente, están más dispuestos a probar algo nuevo.

• Los productos desconocidos se mezclan de forma personalizada, no igual para todos los usuarios
• Para cada usuario se calcula una probabilidad individual de mostrarle novedades
• El equipo calibró la «agresividad» de la exploration: el equilibrio entre el riesgo de mostrar una novedad poco acertada y el beneficio de ampliar el horizonte de las recomendaciones
• El autor del artículo es Ramil Boyarchenkov, ingeniero de machine learning en Yandex Lavka

La idea es dirigir la exploration allí donde el beneficio potencial de que el usuario descubra un producto nuevo supera la probable pérdida de ventas a corto plazo, en lugar de mezclar novedades de forma uniforme en toda la audiencia, algo que por eso mismo resulta más arriesgado.

Por qué no se resuelve con una sola fórmula

El equilibrio entre exploration (intentar mostrar al usuario algo nuevo, a riesgo de perder precisión) y exploitation (apoyarse en preferencias ya comprobadas) es un problema clásico que conoce cualquier sistema de recomendación, desde los servicios de streaming musical hasta los marketplaces. Formalmente puede describirse con matemáticas, pero en la práctica el ajuste correcto depende de las particularidades de cada negocio. En el reparto de comestibles, donde la decisión de compra se toma de forma rápida y emocional, una exploration demasiado agresiva corre el riesgo de decepcionar al usuario con un producto desconocido que no le guste, mientras que una demasiado prudente deja al sistema atrapado en el surtido ya conocido.

Por eso el equipo de Yandex Lavka tuvo que calibrar el grado de agresividad de la exploration de forma empírica, en lugar de recurrir a una solución universal ya hecha.

Cómo lo percibe el usuario final

Para el cliente de Yandex Lavka, los cambios no son directamente perceptibles: simplemente, de vez en cuando, ve en su selección de recomendaciones un producto que no había comprado antes y que quizá ni siquiera había buscado. Pero detrás de esa única aparición hay un cálculo de la probabilidad de que precisamente ese usuario esté dispuesto a probar la novedad sin llevarse una decepción con el servicio. Esta personalización puntual de la exploration distingue el enfoque de Yandex Lavka de esquemas más toscos, en los que las novedades se mezclan de forma uniforme en el feed de todos los usuarios sin distinción y se pierde parte de las ventas entre quienes no aprecian ese tipo de experimentos.

Qué significa esto

Este caso es un ejemplo representativo de cómo un problema que conoce cualquier sistema de recomendación, el equilibrio entre exploration y exploitation, no se resuelve con una fórmula abstracta, sino con una calibración aplicada a un negocio concreto y a un usuario concreto. La personalización de la exploration permite ampliar el horizonte de las recomendaciones sin sacrificar las ventas a corto plazo, y este enfoque es aplicable mucho más allá del reparto de comestibles: en cualquier servicio donde el sistema de recomendación corra el riesgo de quedarse estancado en los productos que el usuario ya conoce.