Poolside وLaguna S: نموذج MoE بـ118 مليار معامل يتفوق على نموذج Thinky مفتوح الأوزان بحجم تريليون معامل

درّب مختبر الذكاء الاصطناعي Poolside نموذج Laguna S، وهو نموذج MoE بـ118 مليار معامل، وتقول الشركة إنه يتفوق على النموذج المفتوح Thinky الذي يبلغ حجمه نحو تريليون معامل. جاء ذلك على لسان المؤسس المشارك والرئيس التنفيذي المشارك لـPoolside إيسو كانت (Eiso Kant) في مقابلة مع بودكاست Latent Space، ووصف فيها البنية التحتية الداخلية للشركة بأنها «مصنع نماذج».

ما هو «مصنع النماذج»

«مصنع النماذج» في Poolside هو منظومة تجمع فريقًا صغيرًا من نخبة الباحثين وبنية تحتية للتدريب مصمَّمة لإصدار النماذج بسرعة. ووفق إيسو كانت، أتاح هذا المسار الإنتاجي لفريق صغير تدريب Laguna S، وهو ليس نقطة النهاية بل أول ثمرة لعملية جرى ضبطها وتحسينها.

وتقوم الفكرة الأساسية للنهج على عدم السعي وراء الحجم لمجرد الحجم، بل على بناء عملية تدريب قابلة للتكرار، تكون فيها كل نموذج لاحق أقل كلفة وأسرع إصدارًا من سابقه.

• الجهة المطوِّرة — مختبر الذكاء الاصطناعي Poolside
• النموذج — Laguna S، نموذج MoE بـ118 مليار معامل
• النتيجة المعلنة — يتفوق على النموذج المفتوح Thinky (~1 تريليون معامل)
• المتحدث — إيسو كانت (Eiso Kant)، المؤسس المشارك والرئيس التنفيذي المشارك
• المصدر — مقابلة مع بودكاست Latent Space

ما الذي يجعل Laguna S لافتًا

يكمن اللافت في Laguna S في فارق الحجم: 118 مليار معامل مقابل نحو تريليون معامل لنموذج Thinky مفتوح الأوزان، أي أصغر بنحو تسعة أضعاف تقريبًا، مع جودة أعلى بحسب ما تؤكده Poolside. ويتحقق ذلك بفضل بنية Mixture-of-Experts (MoE)، إذ يُفعَّل في كل طلب جزء فقط من «خبراء» الشبكة، ولذلك يحسب النموذج أسرع وأرخص من نموذج كثيف بالحجم الاسمي نفسه.

ويشكّل هذا الفارق حجة في جدل قديم حول ما يحدد جودة النموذج: العدد الخام للمعاملات أم هندسة التدريب. وتراهن Poolside على الخيار الثاني.

لماذا يهم ذلك القطاع

يُظهر ظهور Laguna S أن فريقًا صغيرًا قادر على منافسة نماذج أكبر منه بمرتبة عشرية كاملة. وبحسب Latent Space، بُني «المصنع» كله على يد مجموعة صغيرة من الباحثين، دون الأعداد الضخمة من الموظفين التي تعمل بها الشركات الرائدة في السوق.

ويضع ذلك الصيغة المألوفة «مزيد من وحدات GPU ومزيد من الأشخاص يعني نموذجًا أقوى» موضع تساؤل أمام القطاع. وتؤكد Poolside أنه عند بناء العملية بصورة صحيحة، يتفوق نموذج بـ118 مليار معامل على نموذج بتريليون معامل، ما يعني أن عنق الزجاجة ينتقل من الحجم إلى هندسة التدريب.

«وهذه مجرد البداية»، قال إيسو كانت، المؤسس المشارك والرئيس التنفيذي المشارك لـPoolside، عن إصدار

Laguna S في مقابلته مع Latent Space.

ماذا يعني ذلك

تعلن Poolside أنها تعلّمت إصدار نماذج منافسة بجهود صغيرة، وأن Laguna S هو الأول فقط في سلسلة. وإذا أكدت اختبارات مستقلة هذه النتائج، فسيعزز ذلك اتجاهًا مفاده أن كفاءة التدريب وبنية MoE بدأتا تزنان أكثر من الحجم المطلق للنموذج.

الأسئلة الشائعة

ما هو Laguna S؟

Laguna S هو نموذج لغوي من Poolside بنية Mixture-of-Experts وحجمه 118 مليار معامل. وتقول الشركة إنه يتفوق على النموذج المفتوح Thinky الذي يبلغ حجمه نحو تريليون معامل.

من هو إيسو كانت؟

إيسو كانت (Eiso Kant) هو المؤسس المشارك والرئيس التنفيذي المشارك لشركة Poolside. وهو من تحدث في مقابلته مع بودكاست Latent Space عن «مصنع النماذج» وعن تدريب Laguna S.