أطلقت Liquid AI نموذج LFM2.5-8B: نموذج MoE مضغوط مع سياق 128K

أطلقت شركة Liquid AI نموذج LFM2.5-8B-A1B الجديد، والذي يمكنه العمل مباشرة على جهاز الكمبيوتر الشخصي، دون الحاجة إلى خادم سحابي أو اشتراك.

كيف تعمل بنية Mixture of Experts

تستخدم هذا النموذج بنية Mixture of Experts (MoE) التي أصبحت اتجاهاً في سنوات 2024-2025. يحتوي LFM2.5 على ما مجموعه 8.5 مليار معامل، لكن يتم تفعيل 1.5 مليار فقط في الوقت ذاته. إنه مثل مكتبة كبيرة: بدلاً من إعادة قراءة جميع الكتب واحداً تلو الآخر، تأخذ فقط تلك التي تحتاجها للمهمة الحالية.

يوفر هذا النهج فائدتين. أولاً، يتم توفير ذاكرة الوصول العشوائي وقوة المعالجة - يعمل النموذج بشكل أسرع. ثانياً، يمكنك تشغيل نموذج بحجم فيزيائي أصغر على GPU واحد. تبقى الأداء عالية بينما تنخفض متطلبات الأجهزة.

القدرات والخصائص

يدعم LFM2.5-8B-A1B سياقاً بطول 128 ألف رمز - وهذا يعادل تقريباً مائة صفحة من النص المطبوع بحجم 12 نقطة. النموذج قادر على الاستدلال: إنه يحل المهام المعقدة خطوة بخطوة، مع عرض النتائج الوسيطة. كما يمكنه استدعاء الأدوات - على سبيل المثال، البحث في الإنترنت أو إجراء العمليات الحسابية أو الوصول إلى واجهات برمجية خارجية.

• 128 ألف رمز من السياق للوثائق الطويلة
• الاستدلال المنطقي خطوة بخطوة
• استدعاء الأدوات والدوال
• العمل على أجهزة الكمبيوتر الشخصية بدون سحابة

النموذج موجه للمطورين الذين يرغبون في دمج الذكاء الاصطناعي في تطبيقاتهم دون الاعتماد على الخدمات السحابية.

التنفيذ المحلي - الميزة الرئيسية

الفرق بين LFM2.5 والنماذج السحابية هو أنها تعمل بالكامل على جهاز المستخدم. لا يتم إرسال الطلب إلى خادم؛ يتم إنشاء الإجابة محلياً. وهذا يعني الحد الأدنى من التأخير والسرية الكاملة - البيانات لا تترك جهاز الكمبيوتر الخاص بك.

بالنسبة للمطورين، هذا يعني عدم وجود اشتراكات واعتماد على API من Liquid AI. إنهم ببساطة يحملون النموذج ويدمجونه في منتجهم. لا توجد قيود على عدد الطلبات، ولا توجد فواتير لكل استدعاء. مثالي للتطبيقات المحمولة والأنظمة المدمجة والبرامج التي يجب أن تعمل في الوضع غير المتصل.

ماذا يعني هذا

ينتقل عالم نماذج الذكاء الاصطناعي تدريجياً من الخدمات السحابية إلى الحلول المحلية. إذا كان بإمكان الشركات الكبرى فقط (OpenAI و Google و Meta) خدمة ملايين المستخدمين في السابق، فإن كل مطور يمكنه الآن دمج نموذج قوي مباشرة في برنامجه. يمثل LFM2.5-8B-A1B خطوة أخرى في هذا الاتجاه. وهذا مفيد بشكل خاص في التطبيقات التي تتطلب السرية أو سرعة الاستجابة أو العمل في الوضع غير المتصل.

*تم الاعتراف بـ Meta كمنظمة متطرفة وممنوعة في الاتحاد الروسي.