يشرح Yandex Cloud لماذا يقود الواجهة الأمامية تكامل الذكاء الاصطناعي في DataLens

تقترح Yandex Cloud النظر إلى تكامل الشبكات العصبية في المنتج ليس كمهمة خاصة بالواجهة الخلفية فقط. في DataLens، تولت فريق الواجهة الأمامية الطبقة الأولى العاملة من التحليل الذكي: قاموا بتجميع واجهة الدردشة، وطبقة BFF، ومنطق التواصل مع النموذج، دون انتظار إعادة هيكلة خادم كبيرة. الفكرة هي أنه بالنسبة للإطلاق المبكر لميزة ذكاء اصطناعي، ما يهم أكثر من معمارية مثالية للسنوات القادمة هو دخول سريع للسوق مع منطقة واضحة للمسؤولية.

نتحدث عن DataLens، نظام الذكاء التجاري من Yandex Cloud لتصور مجموعات البيانات الكبيرة. ظهر داخل الخدمة محلل ذكي — مساعد يساعد في بناء الرسوم البيانية وكتابة الصيغ وحل المهام التحليلية في الحوار. بدلاً من المخطط الكلاسيكي حيث تتولى الواجهة الخلفية المسؤولية الكاملة عن تكامل نموذج اللغة الكبيرة، اقترح الفريق نهجاً مختلفاً: ظهرت طبقة BFF بين العميل والنموذج، وتتولاها الواجهة الأمامية.

يمكن رفع مثل هذه الطبقة على Node.js أو Bun أو أي مكدس مألوف آخر واستخدامها كخادم منفصل موجه لاحتياجات الواجهة. يوضح المؤلف النهج من خلال مشروع توضيحي على شكل مستودع أحادي مع Express و React، حيث تعمل لوحة تحكم الذكاء التجاري جنباً إلى جنب مع مساعد الدردشة.

في هذا المخطط، لا تحتاج الواجهة الخلفية الموجودة إلى إعادة كتابة عاجلة. يخزن BFF مفاتيح الوصول إلى النموذج، ويتعامل مع تحديد المعدل، و CORS، والتسجيل والمراقبة، ويدير أيضاً بث الاستجابات. بالنسبة لمطوري الواجهة الأمامية، هذا ليس إقليماً غريباً: في العديد من فرق المنتج، عملوا لفترة طويلة كمهندسي مكدس كامل، يحافظون على كود الخادم و CI/CD والبنية الأساسية حول تطبيق العميل.

هذا هو السبب في أنه يمكن تنفيذ المرحلة الأولى من التكامل بالقرب من الواجهة، حيث التأثير على المستخدم مرئي بسرعة أكبر. إذا لم تنجح الفرضية، تكون تكلفة الخطأ أقل من إعادة هيكلة عميقة للواجهة الخلفية الرئيسية. يحدد مؤلفو النهج أربعة مكونات أساسية لمثل هذا التكامل.

الأول — مجموعة واجهة مستخدم لواجهة الدردشة والعناصر ذات الصلة: حقول الإدخال والبطاقات وقوائم الإجراءات وبث الرسائل. الثاني — SDK للعمل مع النموذج عبر API؛ ما يهم هنا ليس المزود المحدد، بل التوافق، لأن العديد من الخدمات تكرر تنسيق API من OpenAI. الثالث — الأدوات، أي استدعاء الدوال ووصول النموذج إلى وظائف التطبيق، على سبيل المثال الحصول على البيانات لمخطط بياني أو أخذ عينات من أفضل 5 منتجات.

الرابع — السياق: سجل المحادثة وحالة التطبيق وكود المستخدم ونتائج الحساب والأخطاء التي يحتاجها النموذج للحصول على استجابة ذات مغزى. بشكل أساسي، هذه الطبقات الأربع كافية بالفعل لإطلاق وظيفة ذكاء اصطناعي عاملة في الواجهة. إن السياق بالذات ما يعتبره المؤلف الحجة الرئيسية لصالح الواجهة الأمامية.

نماذج اللغة الكبيرة ليس لديها ذاكرة خاصة بها، لذا مع كل طلب يجب إعادة نقل سجل المحادثة وكل ما هو ضروري للاستجابة. في منتجات الذكاء التجاري، جزء كبير من البيانات يعيش على العميل: علامات التبويب المفتوحة والإعدادات الحالية لوحة التحكم وشظايا الاستعلامات ورسائل الخطأ والنتائج الوسيطة وأحياناً حتى أجزاء من كود المستخدم. نقل كل هذا إلى الخادم لكل استجابة من النموذج مكلف وليس دائماً معقولاً.

وفي الوقت نفسه، بينما تنمو نوافذ السياق للنماذج، فهي عادة ما تزال محدودة بعشرات أو مئات الآلاف من الرموز، وأحياناً مليون، ولا يمكن استخدامها بدون اختيار. علاوة على ذلك، لا تزال النماذج تؤدي أداءً سيئاً في الحسابات الدقيقة، لذا فهي تحتاج ليس فقط إلى الكثير من البيانات، بل إلى بيانات معبأة بشكل صحيح والوصول إلى الأدوات التي تحسب وتسترجع الحقائق الضرورية. بالنسبة للسوق، هذا إشارة مهمة: يتوقف تكامل الذكاء الاصطناعي في المنتج عن كونه احتكاراً للواجهة الخلفية ويصبح مهمة هندسية مشتركة، حيث يمكن للواجهة الأمامية أن تتولى المرحلة الأولى وتسلم الفكرة للمستخدمين بسرعة أكبر.

مع نمو الحمل وظهور العمليات الخلفية واقتران أعمق مع الأنظمة الداخلية، يتعزز دور الواجهة الخلفية بالطبع مرة أخرى. لكن في مرحلة مبكرة، يسمح هذا النهج BFF بالذات بالتحقق الأسرع من السيناريوهات وجمع رؤى المنتج وعدم إبطاء الإطلاق بسبب إعادة هيكلة معمارية كبيرة. بالنسبة للفرق التي تبحث ببساطة عن مكان لأول وظيفة نموذج لغة كبيرة في منتج، هذه طريقة عملية للبدء بدون حمل تنظيمي غير ضروري.