T-Bank يستبدل سرب نماذج LLM بنموذج واحد من فئة 32B ويخفض تكلفة الطلبات بمقدار 2,8–3,9 مرة

تصطدم الشركات الكبرى التي لا يجوز لها إرسال بياناتها إلى السحابات الخارجية بحسبة بسيطة: كل شبكة عصبية ضيقة مخصصة لمهمة واحدة تستهلك وحدات GPU شحيحة. اقترح باحثو T-Bank طريقتين لتقليص هذه الفاتورة، وعرضوهما في مؤتمر EMNLP 2026 في بودابست، وهو مؤتمر من فئة A*. تولّى نموذج واحد بـ 32 مليار معامل طلبات أكثر من 200 خدمة داخلية في البنك ونصف حركة المرور على منصة LLM التابعة له. وأصبحت المعالجة أرخص بمقدار 2,8–3,9 مرة مقارنةً بـ Qwen3-235B، وبلغ التوفير في بعض الخدمات 9 مرات.

نموذج عام واحد بدل سرب من المتخصصين

الصورة المعتادة في البيئة المحمية هي: نموذج لاتباع التعليمات، وآخر لاستدعاء الدوال، وثالث للسيناريوهات المؤسسية. وكل نموذج منها يجب إبقاؤه في الذاكرة وتوسيع نطاقه وتحديثه. سلك فريق T-Bank طريقًا مختلفًا، ووصف للمرة الأولى منهجية قابلة للتكرار لما بعد التدريب (post-training) لنماذج LLM الناطقة بالروسية مع مهارات وكيلية (agentic).

تتألف الخطة من ثلاث خطوات. أولًا، أُجري تدريب إضافي لـ Qwen3-32B على مزيج من البيانات المؤسسية والمفتوحة. ثم طُبّق التعلم المعزز في ثلاثة اتجاهات: اتباع التعليمات، واستدعاء الدوال، والمهام المؤسسية. وكانت النتيجة نسخًا متخصصة جرى دمجها في نموذج واحد بطريقة SLERP، أي الاستيفاء الكروي للأوزان. ويتيح هذا الدمج الاستغناء عن تشغيل ثلاث شبكات منفصلة أثناء الاستدلال (inference) والاكتفاء بشبكة واحدة.

نموذج مدمج يتفوق على العملاق

جرت المقارنة مع Qwen3-235B، وهو أثقل بنحو سبع مرات. وللبنك لا يقتصر الأمر على السعر، فجودة الأداء على مهامه الخاصة مهمة أيضًا، وفي هذا الجانب تقدّم النموذج ذو الـ 32B.

• الاختبارات المؤسسية: 69,6 نقطة مقابل 65,8 لـ Qwen3-235B.
• اتباع التعليمات: 0,85 مقابل 0,83.
• استدعاء الدوال: 0,79 مقابل 0,77.
• تكلفة معالجة الطلبات: أقل بمقدار 2,8–3,9 مرة، وفي بعض الخدمات حتى 9 مرات.
• الحمل: أكثر من 200 خدمة داخلية ونحو نصف حركة المرور على منصة LLM في البنك.

الفارق في المقاييس صغير، لكن الاتجاه مهم. فالنموذج المصمَّم لبيئة محددة لا يقل أداءً على مهام هذه البيئة عن العملاق العام، بينما يستهلك عتادًا أقل بوضوح.

تحليل ملفات PDF على بطاقة H100 واحدة

يتناول العمل الثاني رقمنة المستندات الورقية. بنى الباحثون خط معالجة (pipeline) لانتقاء أمثلة PDF المعقدة، ودرّبوا على أساسه نموذجًا مرئيًا لغويًا مبنيًا على Qwen3.5-35B-A3B-Base. يستخرج النموذج أي بيانات إلزامية ومبالغ بناءً على طلب نصي، ولا حاجة إلى كتابة قالب منفصل لكل نوع من المستندات.

تعمل البنية هنا لصالح التوفير. فمجموع معاملات النموذج 35 مليار، لكن 3 مليارات فقط تُفعَّل لكل طلب. ويكفي لتشغيله بطاقة Nvidia H100 واحدة. وتكلفة تحليل المستندات أقل بنسبة 80% من المعالجة اليدوية الكاملة، وأقل بنسبة 50% من أفضل النظائر المفتوحة.

يلفت النظر اختيار البيانات. فالإسهام الرئيسي هنا هو انتقاء الأمثلة المعقدة تحديدًا، لا مجرد زيادة عدد المسوحات الضوئية: يُدرَّب النموذج على الحالات التي تخطئ فيها الحلول المعتادة.

ما الذي يمكن نقله إلى منظومتك التقنية

نشر الباحثون منهجية إنشاء الاختبارات الداخلية، ووصف خط معالجة ما بعد التدريب، ونموذجًا لغويًا مفتوح الأوزان دُرّب على بيانات عامة. وهو متاح على Hugging Face (t-tech/T-pro-it-2.1). تبقى بيانات البنك المؤسسية داخله، لكن يمكن تكرار الوصفة على بيانات الجهات الأخرى.

تخرج الفرق ذات البيئات المغلقة بعدة استنتاجات. إذا كانت لديكم بالفعل عدة نماذج ضيقة على قاعدة واحدة، فمن المجدي اختبار الدمج عبر SLERP بعد RL: فهذه طريقة لتقليص عدد النسخ المشغَّلة (instances) دون خسارة في الجودة على المهام الأساسية. وينبغي إنشاء المعايير الداخلية قبل الترحيل، لأن النموذج ذا الـ 32B أظهر عليها تحديدًا تفوقًا على نموذج الـ 235B. أما في معالجة المستندات، فإن الجمع بين MoE ذي العدد القليل من المعاملات النشطة وبطاقة H100 واحدة يعني أن المهمة لم تعد تحتاج إلى عنقود مستقل، وصارت تتسع في بطاقة واحدة.

حتى الآن هذه نتائج بنك واحد على حمله الخاص، وسيتطلب نقلها إلى قطاعات أخرى قياسات خاصة بها. لكن أرقام التوفير والمواد المفتوحة تجعل العمل مفيدًا لكل من يحسب تكلفة الرمز (token) في بنية تحتية مغلقة.