IBM Research تخفض تكلفة الاستدلال بمقدار 11,5 مرة على وكلاء مبنيين على نماذج مفتوحة

أعلنت IBM Research أن النماذج المفتوحة، مقترنةً بإطار llm-d، أتاحت لها استكشاف حلول عتادية لتصحيح الأخطاء الكمومية بتكلفة استدلال أقل بمقدار 11,5 مرة من التكلفة في تهيئة مملوكة بالكامل. ويتعلق الأمر بـ«مصنع وكلاء»: نظام يشارك فيه عدد كبير من وكلاء الذكاء الاصطناعي بالتوازي في تصميم الرقائق. وهذه من الحالات القليلة التي يُعبَّر فيها عن اقتصاديات الأحمال الوكيلية بمضاعف محدد.

ما الذي أعلنته IBM وما الذي لم تكشف عنه

صياغة الإعلان قصيرة. فهناك نماذج مفتوحة، وهناك llm-d، وهناك مهمة من مجال تصحيح الأخطاء الكمومية، وهناك مقارنة بتهيئة تكون فيها جميع المكونات مملوكة. لكن الإعلان لا يتضمن قائمة بالنماذج، ولا عدد وحدات GPU، ولا حجم الرموز التي جرت معالجتها، ولا جودة النتائج مقارنةً بالخيار المغلق. ودون ذلك يُقرأ الرقم 11,5× على أنه تكلفة في ظروف محددة، لا ثابتًا عامًّا. وليس معروفًا أي حزمة مملوكة بالتحديد اتُّخذت أساسًا للمقارنة، ولا كيف حُسبت التكاليف.

إن خفض السعر بأكثر من عشرة أضعاف لا يأتي مجانًا. والسؤال هو إلى أي مدى تتشابه نتائج الوكلاء في التهيئتين. ولم تُظهر IBM بعدُ ما الذي حصلت عليه فعليًا في المخرجات.

دور llm-d

إن llm-d إطار مفتوح المصدر أصيل في Kubernetes للاستدلال الموزّع. وهو مبني فوق vLLM، وأُطلق في عام 2025 بمشاركة Red Hat وIBM Research وGoogle وNVIDIA وCoreWeave. وفكرتاه الرئيسيتان: فصل مرحلتي prefill وdecode على مجمّعات موارد مختلفة، وتوجيه الطلبات مع مراعاة KV-cache.

وأهمية ذلك للأنظمة الوكيلية واضحة. فوكلاء تصميم الرقائق يعالجون بادئات طويلة مشتركة: المواصفات وسجلات المحاكاة وأوصاف المعمارية. والطلبات كثيرة وتتداخل غالبًا في السياق. فإذا وجّه الموجِّه هذه الطلبات إلى نسخ تملك ذاكرة مؤقتة مهيّأة مسبقًا، تختفي الحسابات الزائدة. ولم توزّع IBM في إعلانها مساهمة llm-d المحددة في الرقم الإجمالي 11,5×، ولذلك فهذا منطق هندسي وليس إسنادًا مؤكدًا.

لماذا تحديدًا تصحيح الأخطاء الكمومية

تصطدم الحلول العتادية لتصحيح الأخطاء بفضاء هائل من الخيارات: الشيفرات، وأجهزة فك الترميز، وطوبولوجيات الربط، وقيود زمن الاستجابة. واستعراضها يدويًا يستغرق وقتًا طويلًا. أما النهج الوكيلي فيحوّل الاستعراض إلى سيل من التكرارات: اقتراح تهيئة، وتشغيل محاكاة، وتحليل النتيجة، ثم التعديل. وتتضمن كل دورة عدة استدعاءات لنموذج LLM، والدورات بالآلاف.

ومع هذا الحمل يصبح الاستدلال البند الرئيسي في ميزانية البحث. ويعني المضاعف 11,5 أنه يمكن، بالمبلغ نفسه، إجراء تجارب أكثر بمقدار رتبة عُشرية كاملة، أو إبقاء الوكلاء قيد التشغيل بشكل دائم.

المعايير الرئيسية

• الجهة: IBM Research
• المجال: تصميم الرقائق بواسطة الوكلاء، تصحيح الأخطاء الكمومية
• الحزمة: نماذج مفتوحة وllm-d
• التوفير المعلن: 11,5× مقابل التهيئة المملوكة بالكامل
• لم يُكشف عنه: النماذج، والعتاد، وحجم الرموز، ومقاييس الجودة

ما الذي يمكن للفرق أن تستفيد منه

أولًا: احسبوا التكلفة لا لكل رمز، بل لكل مهمة حُلّت بنجاح. فقد يخسر النموذج الرخيص ذو المحاولات الفاشلة الكثيرة أمام نموذج مرتفع الكلفة. ثانيًا: إذا كان الحمل وكيليًا والسياق يتكرر، فقيّموا طبقة الاستدلال مع مراعاة الذاكرة المؤقتة، وليس النموذج وحده. ثالثًا: غالبًا ما يكون النهج الهجين، حيث تتولى النماذج المفتوحة الخطوات الكثيرة العادية وتُستدعى النماذج المغلقة في الخطوات المعقدة، أجدى من الخيارين المتطرفين. وأخيرًا، عند قراءة أي ادعاء من نوع «أرخص بمقدار N مرة»، اسألوا أولًا ما الذي اتُّخذ أساسًا للمقارنة وكيف جرى التحقق من الجودة. وهنا لا تتوفر بيانات كاملة حتى الآن، والأجدر انتظار التقرير التقني من IBM.