VK تختصر إطلاق خلاصة التوصيات الجديدة من أسابيع إلى يوم واحد

نشر فريق AI في VK على موقع Habr تقريرًا عمّا تغيّر في Discovery خلال الأشهر الأخيرة. Discovery هي طبقة البنية التحتية الموحدة التي تقوم عليها التوصيات والبحث والإعلانات في جميع منتجات VK. والنتيجة الرئيسية أن وحدة التوصية الجديدة، أي خلاصة أو قائمة مستقلة لسيناريو محدد، تُطلق الآن في يوم واحد. كانت هذه المهمة الروتينية تستغرق أسابيع. وتُحل نحو 90% من مهام الترتيب عبر الإعدادات، دون كتابة كود جديد.

ملف إعدادات بدل أسابيع من التطوير

كان على الفريق سابقًا، لكل خلاصة جديدة، أن يبني مجموعة خدمات خاصة بها، ويضبط تدفقات البيانات، ويُنشئ المراقبة، ويبني على حدة بنية تحتية لاختبارات A/B. أما الآن فيصف المهندس الوحدة في ملف إعدادات يضم أربعة أقسام:

• كتالوج الكائنات التي يجب ترتيبها؛ • مصادر المرشحين، أي المكان الذي تؤخذ منه الكائنات المعروضة؛ • ملف المستخدم الذي يُختار المحتوى على أساسه؛ • أهداف التحسين، أي المقاييس التي يجب أن يرفعها النموذج.

بعد ذلك تنشر المنصة بنفسها الخدمات وتدفقات البيانات وأدوات المراقبة ومسار A/B. فالمهندس يكتب وصفًا، لا بنية تحتية.

أثمر ذلك 15 وحدة جديدة، بينها سيناريوهات صغيرة مثل ترتيب التعليقات. لم يكن من المجدي سابقًا إطلاق مثل هذه التفاصيل الصغيرة، لأن أسابيع العمل لا تعوّض كلفتها. وحين يستغرق الإطلاق يومًا واحدًا تتغير الحسابات، وتحصل حتى المهام الضيقة على نظام توصية خاص بها.

بوابة تمنع كسر بيئة الإنتاج

إذا كان ملف الإعدادات يتحكم في كل شيء تقريبًا، فإن أي خطأ فيه يصيب ملايين المستخدمين. لذلك بُنيت حول المنصة بوابة Discovery Portal، وهي نقطة موحدة لإدارة الإعدادات وطوبولوجيا الخدمات والمراقبة. وتعمل على النحو التالي:

• تُفحص التغييرات قبل تطبيقها؛ • يجري الطرح على مراحل، وتُقارن المقاييس في كل خطوة بالنسخة القديمة؛ • عند حدوث تراجع يتراجع النظام عن التغيير؛ • العودة إلى النسخة السابقة تتم في خطوة واحدة.

يستخدم البوابةَ جميعُ مطوّري AI في VK، ويمر عبرها عشرات التغييرات يوميًا. والخلاصة العملية الأهم للمهندسين أن سرعة الإطلاق من دون مسار أمان كهذا تتحول سريعًا إلى سلسلة أعطال. فالبداية السريعة والتراجع السريع لا ينفعان إلا معًا.

GPU ضمن ميزانية من الميلي ثانية

يخصص التقرير قسمًا مستقلًا لوحدات المعالجة الرسومية في عملية الترتيب نفسها. يجب أن تتم التوصية خلال بضع ميلي ثوانٍ، وإلا تعلّقت الخلاصة. وقد اعتمد الفريق ثلاث آليات:

• التجميع الديناميكي (batching). يجمع الخادم الطلبات الواردة لفترة قصيرة ثم يرسلها إلى بطاقة الرسوميات دفعة واحدة. فمعالج GPU يحسب عددًا كبيرًا من الكائنات معًا بكفاءة أعلى من حسابها واحدًا تلو الآخر. • التحكم في ذيول زمن الاستجابة. متوسط السرعة لا يقول الكثير، فالمستخدم يتذكر أبطأ الاستجابات. ويتتبع الفريق تحديدًا الطلبات النادرة الطويلة ويضع لها حدًّا. • مسار احتياطي إلى نموذج أبسط. إذا لم ينجز النموذج الثقيل عمله في الوقت المحدد، تقدم نسخة مخففة الاستجابة. ستحصل الخلاصة على نتيجة أقل دقة بقليل، لكنها لن تبقى فارغة.

هذه الأساليب الثلاثة مألوفة للمهندسين الذين يشغّلون الاستدلال المباشر (online inference). وقد جمعها الفريق هنا في منصة واحدة وطبّقها على الترتيب في منتجات ذات جمهور كبير.

ما الذي تحسّن في المقاييس

تورد VK الأرقام التالية بعد تطبيق التغييرات:

• ارتفع الوقت في خلاصة فكونتاكتي (ВКонтакте) 11%؛ • زادت إضافات الأصدقاء من التوصيات بنحو 2,7 مرة؛ • ارتفع وقت المشاهدة في كليبات VK (VK Клипы) 22%؛ • ارتفع وقت المشاهدة على الصفحة الرئيسية في VK Видео 20%.

وتعمل الإعلانات أيضًا على Discovery. ففي الرسائل الموجهة إلى المجتمعات ارتفع معدل التحويل من الظهور إلى الإجراء المستهدف 46%، وانخفضت تكلفة الإجراء المستهدف 13%. وفي إعلانات CPC للمواقع (الدفع مقابل النقرة) زاد عدد الإجراءات المستهدفة 56% وانخفضت تكلفتها 24%.

هذه بيانات الشركة نفسها. لا يفصل التقرير بين فترة القياس وأحجام مجموعات A/B ومساهمة كل تحسين على حدة في النماذج، ولذلك قد يعود جزء من الزيادة إلى النماذج الجديدة التي انتقلت إلى المنصة، لا إلى المنصة نفسها. لكن النطاق المعلن، من +11% إلى +46%، يدل على أن الطبقة الموحدة لم تُسرّع الإطلاق وحده، بل التجارب نفسها أيضًا.

ما التالي

الخطوة التالية هي النقل الكامل للبحث إلى Discovery. وإذا نجحت، ستعمل التوصيات والبحث والإعلانات على بنية تحتية واحدة، مع بوابة ومراقبة وقواعد طرح مشتركة.

والخلاصة لباقي الشركات بسيطة. كلما نُقل مزيد من مهام الترتيب إلى الإعدادات، قلّت كلفة كل وحدة جديدة وزادت جرأة الفرق في تجربتها. لكن المنصة لا تؤتي ثمارها إلا مقرونة بالتحقق من صحة التغييرات والإصدارات التدريجية والتراجع التلقائي.