Liquid AI تطلق المشفّرَين LFM2.5-Encoder-230M وLFM2.5-Encoder-350M بسياق يبلغ 8K رمز

أطلقت Liquid AI في 29 يوليو 2026 مشفّرين مفتوحين ثنائيّي الاتجاه (bidirectional) هما LFM2.5-Encoder-230M وLFM2.5-Encoder-350M، بسياق يبلغ 8192 رمزًا. ويحافظ النموذجان على سرعتهما مع المدخلات الطويلة حتى دون GPU، أي على CPU عادي.

ما هذه النماذج

يمثّل LFM2.5-Encoder-230M وLFM2.5-Encoder-350M نموذجين لغويين مفتوحين من نوع masked language models، مبنيَّين على الهيكل الهجين LFM2 من Liquid AI. وتقع المشفّرات في أساس المصنِّفات وموجِّهات النوايا (intent routers) ومرشِّحات الأمان وكاشفات البيانات الشخصية (PII). وتعمل هذه المهام بشكل متواصل، وعادةً دون GPU، وعلى مدخلات طويلة بوتيرة متزايدة.

• نقطتا حفظ (checkpoints): بحجم 230M و350M معامل
• سياق 8192 رمزًا (نحو 13–15 صفحة نصية)
• حجم الطبقة المخفية (hidden size) 1024، ومفردات من 65 536 رمزًا، ودعم 15 لغة
• ترخيص LFM Open License v1.0، ومنهجية التقييم مفتوحة بترخيص Apache-2.0

أسّس BERT هذه الفئة من النماذج، ثم رفع ModernBERT مستوى الدقة والسرعة والسياق. وترى Liquid AI أن بنية LFM2 تواصل هذا الخط، إذ ترتفع كلفتها بوتيرة أبطأ كلما طال المدخل.

كيف تحوّل المفكّك إلى مشفّر

لم يُدرَّب المشفّران من الصفر. فقد جرت تهيئتهما انطلاقًا من هياكل المفكّك (decoder) في LFM2.5-230M وLFM2.5-350M، ثم حُوِّلا بثلاثة تعديلات. أُبدل قناع الانتباه السببي (causal) بقناع ثنائي الاتجاه كي يرى كل رمز الجانبين. وجُعلت الالتفافات القصيرة في LFM2 غير سببية (non-causal) عبر حشو مركزي متماثل (center-padding). ثم أُعيد تدريب النموذج على مهمة masked language modeling بنسبة إخفاء 30%، وهي أكثف من نسبة 15% في BERT.

جرى التدريب على مرحلتين. في الأولى، بُنيت الكفاءة اللغوية العامة على سياق قصير من 1024 رمزًا باستخدام مدوّنة ويب كبيرة. وفي الثانية، جرى توسيع السياق إلى 8192 رمزًا على المزيج الكامل من البيانات، مع تعزيز الكفاءة في المعارف الواقعية والقانونية والمتعددة اللغات.

ما مدى قوتهما في الاختبارات المعيارية

سجّل LFM2.5-Encoder-350M متوسطًا بلغ 81,02 (±1,00) في 17 مهمة من GLUE وSuperGLUE والتصنيف متعدد اللغات، ليحلّ رابعًا بين 14 نموذجًا. ووفق بيانات Liquid AI، لم يتقدّم عليه سوى نماذج أكبر: XLM-R XL بـ3,5 مليار معامل (83,06)، وModernBERT-large بـ395M (81,68)، وXLM-R large بـ560M (81,34). والنموذج المتصدّر أكبر منه بنحو 10 مرات.

وسجّل LFM2.5-Encoder-230M نتيجة 79,29 (±1,02) واحتلّ المرتبة السادسة، متفوقًا على ModernBERT-base (78,19) وعلى جميع نماذج EuroBERT في الجدول، بما فيها EuroBERT-610M (75,87) وEuroBERT-2.1B (72,19).

تفوّق المشفّران كلاهما على نماذج الاسترجاع (retrieval) التي طوّرتها

Liquid AI نفسها، وهي LFM2.5-ColBERT-350M (76,18) وLFM2.5-Embedding-350M (75,68). وتقول الشركة إن هذه الفجوة تحديدًا هي سبب بنائها مشفّرًا عامًا مستقلًا بدل إعادة استخدام نماذج الاسترجاع.

— بحسب مواد إصدار Liquid AI

أين يمكن استخدامهما

تحدّد Liquid AI ثلاثة سيناريوهات. الأول هو الأجهزة الطرفية والمضمَّنة (edge): حاسوب السيارة أو وحدة التحكم الصناعية التي لا تملك GPU متاحًا، ولا يمكنها اللجوء إلى السحابة. والثاني هو الأنظمة المنظَّمة والمحلية (on-premise) في المالية والرعاية الصحية والقانون، حيث تكون الوثائق طويلة وحسّاسة ولا يجوز أن تغادر البنية التحتية الداخلية. والثالث هو خطوط المعالجة عالية الحمل والحسّاسة للكلفة، حيث يعمل المشفّر الصغير كمرشِّح أول منخفض الكلفة قبل النموذج الكبير.

ماذا يعني ذلك

تبقى المشفّرات المفتوحة الصغيرة العمود الفقري لمعالجة اللغة الطبيعية (NLP) التطبيقية، وليست من بقايا عصر ما قبل LLM. وتُظهر Liquid AI أن نموذجًا مدمجًا يمكنه، مع السياق الطويل وعلى CPU، أن ينافس حلولًا أكبر منه بأضعاف، وذلك بأوزان مفتوحة ومنهجية قابلة للتكرار.

الأسئلة الشائعة

ما المشفّر ولماذا نحتاج إليه؟

يحوّل المشفّر النص إلى تمثيلات تستخدمها المصنِّفات وموجِّهات النوايا ومرشِّحات الأمان وكاشفات PII. وتعمل هذه المهام بشكل متواصل وعادةً دون GPU، ولذلك تغلب الكلفة والسرعة على «الإبداع» التوليدي من حيث الأهمية.

ما الفرق بين LFM2.5-Encoder وBERT؟

يستند LFM2.5-Encoder إلى الهيكل الهجين LFM2 (تناوب بين الالتفافات ذات البوابات (gated convolutions) والانتباه بالاستعلام المجمَّع (grouped-query attention))، ويدعم سياقًا من 8192 رمزًا، ويُدرَّب بنسبة إخفاء 30% بدل 15% في BERT.

بأي ترخيص تتوفر النماذج؟

صدرت الأوزان بترخيص LFM Open License v1.0، أما منهجية التقييم فبترخيص Apache-2.0. وقد جرى تثبيت إصدار transformers عند 4.56.2 كي لا يؤثر تغيّر الاعتماديات على قابلية تكرار النتائج.