Яндекс Лавка решила проблему замкнутого круга рекомендаций с помощью персональной exploration

Рамиль Боярченков, специалист по машинному обучению в команде Яндекс Лавки, рассказал на Habr, как сервис справлялся с проблемой замкнутого круга рекомендаций — эффектом, при котором хорошо обученная рекомендательная система становится заложницей собственной точности.

В чём проблема хороших рекомендаций

По словам автора, чем точнее система угадывает, что пользователь положит в корзину, тем реже она показывает что-то незнакомое — ведь предлагать проверенные товары выгоднее с точки зрения краткосрочных продаж. Со временем рекомендательная система замыкается на уже сложившихся привычках человека и перестаёт выводить его за пределы этих привычек, даже когда интересы пользователя меняются. Система просто не замечает эти изменения, потому что не видит сигналов за пределами уже знакомого набора товаров.

Попытка исправить ситуацию в лоб — добавить в выдачу незнакомые товары — почти всегда бьёт по метрикам: объём ближайших покупок неизбежно снижается, если предлагать пользователю то, в чём система не уверена.

Как устроен новый механизм

Команда Яндекс Лавки собрала механизм, который подмешивает незнакомые товары не случайным образом, а персонально — тем пользователям, которые статистически расположены к тому, чтобы попробовать что-то новое.

• Незнакомые товары подмешиваются персонально, а не всем пользователям одинаково
• Для каждого пользователя рассчитывается индивидуальная вероятность показа новинок
• Команда откалибровала «агрессивность» exploration — баланс между риском показать неудачную новинку и пользой от расширения кругозора рекомендаций
• Автор материала — Рамиль Боярченков, инженер по машинному обучению в Яндекс Лавке

Идея в том, чтобы направлять exploration туда, где потенциальная выгода от знакомства пользователя с новым товаром выше вероятной краткосрочной потери в продажах — вместо равномерного и потому более рискованного подмешивания новинок по всей аудитории.

Почему это не решается одной формулой

Баланс между exploration (пробовать показывать пользователю что-то новое, рискуя точностью) и exploitation (полагаться на уже проверенные предпочтения) — классическая задача, знакомая любой рекомендательной системе, от музыкальных стриминговых сервисов до маркетплейсов. Формально её можно описать математически, но на практике правильная настройка зависит от специфики конкретного бизнеса: в продуктовой доставке, где решение о покупке принимается быстро и эмоционально, слишком агрессивное exploration рискует разочаровать пользователя незнакомым и невкусным товаром, а слишком осторожное — оставляет систему запертой в уже знакомом ассортименте. Именно поэтому команде Яндекс Лавки пришлось откалибровать степень агрессивности exploration эмпирически, а не взять готовое универсальное решение.

Как это выглядит для конечного пользователя

С точки зрения покупателя Яндекс Лавки изменения незаметны напрямую: он просто время от времени видит в подборке рекомендаций товар, которого раньше не покупал и, возможно, даже не искал. Но за этим единичным показом стоит расчёт вероятности того, что именно этот пользователь готов попробовать новинку, не разочаровавшись в сервисе. Такая точечная персонализация exploration отличает подход Яндекс Лавки от более грубых схем, где новинки просто равномерно подмешивают в ленту всем пользователям подряд, теряя часть продаж на тех, кто такие эксперименты не приветствует.

Что это значит

Этот кейс — характерный пример того, как задача, знакомая любой рекомендательной системе — баланс между exploration и exploitation, — решается не абстрактной формулой, а прикладной калибровкой под конкретный бизнес и конкретного пользователя. Персонализация exploration позволяет расширять кругозор рекомендаций, не жертвуя краткосрочными продажами, и такой подход применим далеко за пределами доставки продуктов — в любом сервисе, где рекомендательная система рискует зациклиться на уже знакомых пользователю товарах.