Thinking Machines تطلق Inkling 2 Small: نحو 594 مليار معلمة، لكن 17 مليارًا فقط منها نشطة

إذا سبق لك أن حاولت اختيار نموذج للوكلاء، فأنت تعرف المعضلة: النماذج الذكية باهظة ومغلقة، أما النماذج المفتوحة فرخيصة لكنها أضعف في المهام الطويلة متعددة الخطوات. وتقدم Thinking Machines، مختبر ميرا موراتي، إجابتها الخاصة عن هذه المعضلة: Inkling 2 Small، وهو نموذج متعدد الوسائط يُنتظر طرح أوزانه بترخيص Apache 2.0 الأسبوع المقبل.

ما الموجود في الداخل

بُني Inkling 2 Small على معمارية Mixture-of-Experts المتناثرة. وأبسط طريقة لتصورها هي اعتبارها مجمعًا طبيًا كبيرًا: يوجد فيه 384 طبيبًا، أو خبيرًا، لكن كل مريض، أو رمز، يُحال إلى ثمانية فقط من الأنسب لحالته. ويضم النموذج 48 طبقة لفك الترميز، بإجمالي 594 مليار معلمة. وأثناء التوليد، لا تنشط سوى 17 مليار معلمة.

ماذا يعني ذلك عمليًا؟ تقترب سرعة كل رمز وتكلفته من نموذج ضمن فئة 17B، بينما تكون «المعرفة» المخزنة في الأوزان أكبر بكثير. لكن هناك تفصيلًا مهمًا كثيرًا ما يُنسى: لا يزال من الضروري الاحتفاظ بجميع المعلمات البالغ عددها 594 مليارًا في الذاكرة. وحتى بصيغة 8 بت، يعني ذلك مئات الغيغابايت، ولذلك لا يمكن تشغيل النموذج على بطاقة رسومات واحدة مخصصة للألعاب. إنه نموذج للخوادم أو لعناقيد متعددة من وحدات GPU.

وتشمل الخصائص المعلنة أيضًا الإدخال البصري، وعمقًا قابلًا للتحكم في الاستدلال، ونافذة سياق تصل إلى مليون رمز. ويعني التحكم في عمق الاستدلال إمكانية تحديد مقدار «تفكير» النموذج بصورة واعية: أقل للطلبات البسيطة وأكثر للمهام المعقدة. وهذه أداة مباشرة للتحكم في فاتورة الاستدلال.

التركيز على الوكلاء

يضع المطورون النموذج في فئة سيناريوهات الوكلاء متعددة الخطوات، ويعلنون ثلاث قدرات رئيسية. أولًا، يستطيع التحقق بصريًا من مخرجاته: على سبيل المثال، يولد واجهة، ثم يفحص لقطة شاشة ويصحح التخطيط. ثانيًا، يتكيف مع أطر تشغيل مختلفة للوكلاء، أو harnesses، أي إنه لا يحتاج إلى مطالبة ومجموعة أدوات مضبوطة عليه بصورة مثالية. ثالثًا، يستطيع تنسيق خطوط المعالجة الخاصة بمرحلة ما بعد التدريب بنفسه.

تبدو النقطة الأخيرة طموحة، لكن ينبغي التحقق منها بصورة مستقلة. فهي ادعاء من المطورين، ولا يتضمن الإعلان أي إثبات مستقل له.

أما الأرقام فهي كالتالي: حصل النموذج على 31 نقطة في Artificial Analysis Intelligence Index. وهذه نتيجة متواضعة مقارنة بالنماذج الرئيسية المغلقة والثقيلة، ومن الإنصاف القول إنه ليس رائدًا في الذكاء العام. لكنه يحتل المركز الثالث عالميًا في DesignArena، وهو تصنيف لتوليد الواجهات الأمامية وواجهات المستخدم، ولا يتفوق عليه سوى نماذج ثقيلة احتكارية. وبالنسبة إلى الفرق التي تطور وكلاء لواجهات المستخدم ومولدات للواجهات، يُعد هذا المؤشر أهم من المؤشر العام.

ما الذي يمكن فعله به

يتوفر Inkling 2 Small حاليًا للاستدلال والضبط الدقيق على منصة Tinker، وهي خدمة Thinking Machines الخاصة. وستصدر الأوزان الكاملة الأسبوع المقبل، وعندها سيصبح من الممكن نشر النموذج على البنية التحتية الخاصة أو تدريبه إضافيًا على البيانات المملوكة للمستخدم، من دون التقيد بشروط واجهة API: إذ يسمح ترخيص Apache 2.0 بالاستخدام التجاري.

الخلاصات العملية هي:

• إذا كنت تبني وكلاء للواجهات الأمامية أو التصميم، فأضف النموذج إلى اختباراتك المعيارية فور إصدار الأوزان، وقارنه على مهامك الفعلية بدل الاعتماد على التصنيفات العامة.
• إذا لم يكن لديك عنقود حوسبة، فاحسب تكلفة الاستضافة مقدمًا. توفر المعلمات النشطة البالغ عددها 17 مليارًا في الحوسبة، لكنها لا توفر في الذاكرة.
• إذا كنت تحتاج إلى وكيل مخصص لمجال ضيق، فإن إمكانية الضبط الدقيق بترخيص مفتوح تجعل النموذج مرشحًا قويًا، خصوصًا إذا سارع مزودو خدمات الاستدلال إلى استضافته.

القيود

حتى الآن، يستند كل شيء إلى إعلان المختبر نفسه. لا توجد قياسات مستقلة للسرعة أو التكلفة أو السلوك ضمن السياقات الطويلة، كما تشير نتيجة 31 نقطة في المؤشر إلى أنه لا ينبغي توقع معجزات في الاستدلال العام. وإضافة إلى ذلك، لم تُنشر الأوزان بعد، ولذلك لا ينبغي اعتبار الوعد بترخيص Apache 2.0 متحققًا إلا بعد ظهور الملفات فعليًا.

ومع ذلك، تظل الخطوة مهمة: أحد أبرز مختبرات القطاع يدخل سوق النماذج المفتوحة بنموذج MoE كبير متعدد الوسائط وترخيص متساهل. وهذا يضيف لاعبًا جادًا آخر إلى سوق نماذج الوكلاء المفتوحة، ما يعني خيارات أوسع وضغطًا أكبر على الأسعار.