Latent Space→ المصدر

Poolside и Laguna S: 118B MoE обходит триллионную open-weights модель Thinky

Poolside обучила Laguna S — MoE-модель на 118 млрд параметров, которая, по заявлению компании, обходит открытую модель Thinky размером около 1 трлн параметров. Co-CEO Эйсо Кант рассказал в интервью Latent Space, что модель собрала небольшая команда исследователей на внутренней «фабрике моделей» — и это лишь первая модель из серии.

معالج بواسطة الذكاء الاصطناعي من Latent Space؛ بتحرير Hamidun News
Poolside и Laguna S: 118B MoE обходит триллионную open-weights модель Thinky
المصدر: Latent Space. كولاج: Hamidun News.
◐ استمع للمقال

دربت مختبر الذكاء الاصطناعي Poolside نموذج Laguna S — وهو نموذج MoE بـ118 مليار معلمة، يتفوق بحسب الشركة على النموذج مفتوح الأوزان Thinky البالغ حجمه نحو 1 تريليون معلمة. كشف عن ذلك المؤسس المشارك والرئيس التنفيذي المشارك لشركة Poolside، إيسو كانت (Eiso Kant)، في مقابلة مع بودكاست Latent Space، حيث وصف البنية التحتية الداخلية للشركة بـ"مصنع النماذج".

ما هو "مصنع النماذج"

"مصنع النماذج" في Poolside هو مزيج من فريق صغير من كبار الباحثين وبنية تحتية للتدريب مصممة لإصدار النماذج بسرعة. وبحسب إيسو كانت، فإن هذا المسار بالتحديد هو ما مكّن فريقًا مدمجًا من تدريب Laguna S، وهذا ليس النقطة النهائية بل النتيجة الأولى لعملية تم ضبطها.

الفكرة الأساسية للمنهج ليست السعي وراء الحجم من أجل الحجم، بل بناء عملية تدريب قابلة للتكرار حيث يكون كل نموذج لاحق أرخص تكلفة وأسرع صدورًا من سابقه.

  • المطوّر — Poolside AI Lab
  • النموذج — Laguna S، بمعمارية MoE و118 مليار معلمة
  • النتيجة المعلنة — يتفوق على النموذج مفتوح الأوزان Thinky (~1 تريليون معلمة)
  • المتحدث — إيسو كانت (Eiso Kant)، المؤسس المشارك والرئيس التنفيذي المشارك
  • المصدر — مقابلة مع بودكاست Latent Space

ما الذي يجعل Laguna S مثيرًا للاهتمام

يتميز Laguna S بالفجوة في الحجم: 118 مليار معلمة مقابل نحو 1 تريليون لدى النموذج مفتوح الأوزان Thinky — أي أصغر بحوالي تسع مرات مع جودة أعلى، بحسب ما تؤكده Poolside. ويتحقق ذلك بفضل معمارية Mixture-of-Experts (MoE): إذ يتم تفعيل جزء فقط من "خبراء" الشبكة عند كل طلب، ما يجعل النموذج يحسب بشكل أسرع وأرخص من نموذج كثيف بنفس الحجم الاسمي.

هذه الفجوة تمثل حجة في الجدل القديم حول ما الذي يحدد جودة النموذج: العدد الخام للمعلمات أم هندسة التدريب. وتراهن Poolside على الخيار الثاني.

لماذا يهم هذا الصناعة

يُظهر ظهور Laguna S أن فريقًا صغيرًا قادر على منافسة نماذج أكبر منه بمقدار رتبة كاملة. وبحسب Latent Space، فإن "المصنع" بأكمله بُني بجهود مجموعة صغيرة من الباحثين — دون الكوادر الضخمة التي يعمل بها قادة السوق.

بالنسبة للصناعة، هذا يضع علامة استفهام حول المعادلة المألوفة "المزيد من وحدات معالجة الرسومات والمزيد من الأشخاص يعني نموذجًا أقوى". وتؤكد Poolside أنه مع عملية مبنية بشكل صحيح، يتفوق نموذج بـ118 مليار معلمة على نموذج بتريليون معلمة، ما يعني أن عنق الزجاجة ينتقل من الحجم إلى هندسة التدريب.

"وهذه مجرد البداية"، — إيسو كانت، المؤسس المشارك والرئيس التنفيذي المشارك لشركة

Poolside، عن إصدار Laguna S في مقابلة مع Latent Space.

ماذا يعني هذا

تؤكد Poolside أنها تعلمت كيفية إصدار نماذج منافسة بموارد محدودة، وأن Laguna S ليس سوى الأول في سلسلة. وإذا تأكدت النتائج عبر اختبارات مستقلة، فسيعزز ذلك اتجاهًا: أن كفاءة التدريب ومعمارية MoE بدأتا تزنان أكثر من الحجم المطلق للنموذج.

أسئلة متكررة

ما هو Laguna S؟

Laguna S هو نموذج لغوي من Poolside بمعمارية Mixture-of-Experts و118 مليار معلمة. وبحسب الشركة، فإنه يتفوق على النموذج مفتوح الأوزان Thinky البالغ حجمه نحو 1 تريليون معلمة.

من هو إيسو كانت؟

إيسو كانت (Eiso Kant) هو المؤسس المشارك والرئيس التنفيذي المشارك لشركة Poolside. وهو من تحدث في مقابلة مع بودكاست Latent Space عن "مصنع النماذج" وتدريب Laguna S.

ZK
Hamidun News
أخبار الذكاء الاصطناعي بدون ضوضاء. اختيار تحريري يومي من أكثر من 50 مصدر. منتج من جمال حميدون، رئيس الذكاء الاصطناعي في Alpina Digital.

هل تحتاج إلى ذكاء اصطناعي يعمل داخل شركتك — وليس فقط في موجز الأخبار؟

أبني ذكاءً اصطناعياً جاهزاً للإنتاج للشركات — أنظمة CRM مخصّصة، أدوات داخلية، وكلاء مستقلون، أتمتة سير العمل. ملك لك، مصمّم وفق عمليتك، دون رسوم لكل مستخدم. من إعداد جمال خميدون، مدير المنتجات في AlpinaGPT (منصة ذكاء اصطناعي، أكثر من 6000 مستخدم).

ما رأيك؟
جارٍ تحميل التعليقات…