VK свёл запуск новой рекомендательной ленты с недель до одного дня

Команда AI VK опубликовала на Хабре отчёт о том, что изменилось в Discovery за последние месяцы. Discovery — единый инфраструктурный слой, на котором держатся рекомендации, поиск и реклама во всех продуктах VK. Главный результат: новую рекомендательную вертикаль, то есть отдельную ленту или список для конкретного сценария, теперь запускают за один день. Раньше эта рутина занимала недели. Около 90% задач ранжирования решаются конфигурацией, без нового кода.

Конфиг вместо недель разработки

Раньше под каждую новую ленту команде приходилось собирать свой набор сервисов, настраивать потоки данных, заводить мониторинг и отдельно строить инфраструктуру для A/B-тестов. Теперь инженер описывает вертикаль в конфигурационном файле. В нём четыре блока:

• каталог объектов, которые нужно ранжировать; • источники кандидатов, откуда берутся объекты для показа; • профиль пользователя, по которому подбирают контент; • цели оптимизации, то есть метрики, которые модель должна растить.

Дальше платформа сама разворачивает сервисы, потоки данных, мониторинги и A/B-контур. Человек пишет описание, а не инфраструктуру.

Это дало 15 новых вертикалей. Среди них есть и небольшие сценарии, например ранжирование комментариев. Раньше такую мелочь не стоило запускать: недели работы не окупались. Когда запуск занимает день, экономика меняется, и даже узкие задачи получают собственный рекомендер.

Портал, который не даёт сломать продакшен

Если конфиг управляет почти всем, ошибка в нём бьёт по миллионам пользователей. Поэтому вокруг платформы построен Discovery Portal — единая точка управления конфигами, топологией сервисов и мониторингом. Работает он так:

• изменения проверяются до применения; • раскатка идёт поэтапно, на каждом шаге метрики сравниваются со старой версией; • при просадке система откатывает изменение; • возврат на предыдущую версию делается в один шаг.

Порталом пользуются все разработчики AI VK, и через него проходят десятки изменений в день. Для инженеров это главный практический вывод: скорость запуска без такого страховочного контура быстро превращается в череду аварий. Быстрый старт и быстрый откат работают только в паре.

GPU в бюджете из миллисекунд

Отдельный блок посвящён графическим процессорам в самом ранжировании. Рекомендация должна уложиться в считаные миллисекунды, иначе лента подвиснет. Команда внедрила три механизма:

• Динамический батчинг. Сервер на короткое время копит приходящие запросы и отдаёт видеокарте пачкой. GPU эффективнее считает много объектов сразу, чем по одному. • Контроль хвостов задержек. Средняя скорость мало что говорит: пользователь помнит самые медленные ответы. Команда отслеживает именно редкие долгие запросы и ограничивает их. • Запасной путь на более простую модель. Если тяжёлая модель не успевает в отведённое время, ответ даёт облегчённая версия. Лента получит чуть менее точный результат, но не останется пустой.

Все три приёма знакомы инженерам, которые обслуживают онлайн-инференс. Здесь их собрали в платформу и применили к ранжированию в продуктах с большой аудиторией.

Что выросло в метриках

VK приводит такие цифры после внедрения изменений:

• время в ленте ВКонтакте выросло на 11%; • добавления друзей из рекомендаций выросли почти в 2,7 раза; • время просмотра в VK Клипах увеличилось на 22%; • на главной VK Видео время просмотра выросло на 20%.

Реклама тоже работает на Discovery. Для сообщений в сообщество конверсия показа в целевое действие выросла на 46%, а цена целевого действия снизилась на 13%. В CPC-рекламе сайтов (оплата за клик) целевых действий стало на 56% больше, а их цена упала на 24%.

Это данные самой компании. Период замеров, размеры A/B-групп и вклад отдельных улучшений модели в отчёте не разделены, поэтому часть прироста может принадлежать не платформе, а новым моделям, которые на неё переехали. Но заявленный масштаб, от +11% до +46%, показывает, что единый слой ускорил не только запуск, но и сами эксперименты.

Что дальше

Следующий шаг — полный перенос поиска на Discovery. Если он удастся, рекомендации, поиск и реклама будут работать на одной инфраструктуре с общим порталом, мониторингом и правилами раскатки.

Для других компаний вывод простой. Чем больше задач ранжирования выносится в конфигурацию, тем дешевле каждая новая вертикаль и тем смелее команды её пробуют. Но платформа окупается только вместе с валидацией, поэтапными релизами и автоматическим откатом.