ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارX: @EthanLinAI→ المصدر

تقليص نموذج MiniMax M3.1 Flash الضخم إلى 144 غيغابايت: 91.5% من الرموز تتطابق مع النسخة الأصلية

يتطلب نموذج بـ428 مليار معامل عادةً عنقودًا من بطاقات الرسوميات، لكن Unsloth قلّصت MiniMax M3.1 Flash إلى 2 بت لكل وزن، ليبلغ حجم ملف بصيغة GGUF نحو 144 غيغابايت. ويكفي النموذج نحو 150 غيغابايت من الذاكرة العشوائية العادية في محطة عمل واحدة. وعلى نص واحد، تختار النسخة المضغوطة الرمز التالي نفسه (جزء من كلمة) الذي تختاره النسخة الكاملة في 91.5% من الحالات. الخلاصة: يمكن فعليًا تشغيل وكيل ذكي كبير محليًا، لكن تحقّق من الجودة على مهامك أنت.

معالج بواسطة الذكاء الاصطناعي من X: @EthanLinAI؛ بتحرير Hamidun News
تقليص نموذج MiniMax M3.1 Flash الضخم إلى 144 غيغابايت: 91.5% من الرموز تتطابق مع النسخة الأصلية
المصدر: X: @EthanLinAI. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليX: @EthanLinAI ↗
رئيس التحرير
حقيقة رئيسية #1في نموذج MoE لا يعمل سوى 23 مليار معامل من أصل 428 مليارًا لكل رمز
هامش الذاكرة ضيقملف بحجم 144 غيغابايت مقابل نحو 150 غيغابايت من RAM الموصى بها
حقيقة رئيسية #3نسبة 91.5% هي تطابق الرموز، وليست نتيجة على اختبارات الأداء المعيارية

كان تشغيل نموذج بمئات المليارات من المعاملات يعني في السابق استئجار خادم يضم عدة بطاقات رسوميات. أما الآن، فقد ظهرت لنموذج MiniMax M3.1 Flash، وهو نموذج مفتوح بـ428 مليار معامل، نسخ مضغوطة بدقة 2 بت من Unsloth: يبلغ حجم الملف بصيغة GGUF نحو 144 غيغابايت، ويعمل في نحو 150 غيغابايت من الذاكرة العشوائية. هذا هو حجم ذاكرة محطة عمل واحدة قوية جدًا، وليس مركز بيانات. كتب عن ذلك Ethan Lin على منصة X. وهو من أورد رقم 91.5%: أي عدد المرات التي تختار فيها النسخة المضغوطة الرمز التالي (جزء من كلمة) نفسه الذي تختاره النسخة الكاملة عند تزويد النموذجين بالنص نفسه.

أسهل طريقة لتصوّر الأمر هي الأرشيف. يشغل النموذج الأصلي مئات الغيغابايت، وقد عبّأته Unsloth بحيث يتسع في ذاكرة عتاد عادي. وثمن هذا التعبئة فروق طفيفة في الإجابات. دعونا نفصّل ما وراء كل رقم.

ما الذي جرى ضغطه ولماذا تكفي 150 غيغابايت

بُني MiniMax M3.1 Flash وفق معمارية Mixture of Experts، أي «خليط الخبراء». يضم النموذج 428 مليار معامل في المجموع، لكن نحو 23 مليارًا فقط تعمل لكل رمز. الأمر أشبه بمكتبة ضخمة: عليك تخزين جميع الأرفف، لكنك تفتح لكل سؤال بضعة أرفف مناسبة فحسب. لذلك يتطلب كل رمز حسابات أقل بكثير مما يتطلبه نموذج «كثيف» بالحجم نفسه. وعنق الزجاجة هنا هو الذاكرة، لا القدرة الحسابية.

والذي يوفّر الذاكرة هو التكميم (quantization). تُخزَّن الأوزان عادةً بـ16 بت لكل رقم. وإذا ضُغطت إلى 2 بت في المتوسط، يصغر الملف عدة أضعاف، لكن الأرقام تصبح أخشن. وتشتهر Unsloth بأنها تنتقي الطبقات التي تُضغط بشدة أكبر والطبقات التي تُترك أدق. وقد جرى تعبئة النتيجة بصيغة GGUF، وهي صيغة تفهمها بيئات التشغيل المحلية الشائعة مثل llama.cpp.

كيف نقرأ رقم 91.5%

يسمّيه المنشور top-1 token agreement. على النص نفسه يتنبأ النموذجان بالرمز التالي، وفي 91.5% من الحالات يتطابق خيارهما الأرجح. وهذه نتيجة جيدة لضغط بدقة 2 بت، لكن لهذا المقياس حدودًا.

أولًا، هو ليس تقييمًا على مهام حقيقية مثل البرمجة أو استدعاء الأدوات. فقد لا يغيّر الاختلاف في 8.5% من الرموز شيئًا في نص عادي. أما في سلسلة طويلة من أفعال الوكيل، فقد يتراكم هذا الاختلاف ويقود إلى قرار مختلف.

ثانيًا، الرقم مأخوذ من تغريدة، لا من تقرير مستقل. فالمنهجية غير مرئية لنا: لا نعرف على أي نصوص قورن النموذجان، ولا ما كان طول السياق. كما لا ترد في المنشور سرعة التوليد بالرموز في الثانية، وهي لا تقل أهمية للوكيل التفاعلي عن حجم الملف.

لماذا يهم هذا المطورين والفرق

ينخفض حاجز الدخول إلى النماذج المفتوحة الكبيرة. فإذا كان لديك جهاز بذاكرة 192 غيغابايت أو أكثر، لم يعد نموذج بـ428 مليار معامل أمرًا نظريًا. وما يمنحه ذلك:

  • الخصوصية. تبقى الشيفرة والمستندات والبيانات الداخلية على جهازك ولا تنتقل إلى واجهة API سحابية.
  • تكاليف يمكن التنبؤ بها. بدلًا من الدفع عن كل رمز، تشتري العتاد مرة واحدة، وهذا مجدٍ عند الحمل الدائم.
  • التجارب. يمكنك مقارنة النسخة المحلية المضغوطة بالنسخة السحابية ورؤية أين بالضبط تتراجع الجودة.

وهناك قيود أيضًا. فملف بحجم 144 غيغابايت وذاكرة RAM الموصى بها البالغة نحو 150 غيغابايت يتركان مساحة ضئيلة لنظام التشغيل وللسياق الطويل، لذا ستحتاج إلى ذاكرة أكبر مع السياقات الكبيرة. وإلى جانب ذلك، تعتمد سرعة نموذج MoE المشغَّل من الذاكرة العشوائية اعتمادًا كبيرًا على عرض نطاق الذاكرة. وعلى محطة عمل عادية سيكون التوليد أبطأ مما هو على حزمة من وحدات GPU.

النصيحة بسيطة: لا تنقل الوكيل إلى بيئة الإنتاج استنادًا إلى رقم واحد من تغريدة. خذ من 20 إلى 50 مهمة حقيقية من فريقك، وشغّلها على النسخة المحلية بدقة 2 بت وعلى النموذج السحابي، ثم قارن نسبة النتائج الناجحة. إذا كان الفارق مقبولًا، فسيعوّض التشغيل المحلي تكلفته بفضل الخصوصية والتوفير. وإن لم يكن كذلك، فجرّب النسخ «الأثقل» بدقة 3 أو 4 بت عند ظهورها، فهي عادةً أقرب إلى الأصل.

ويسأل كاتب المنشور عمّا ينبغي تشغيله أولًا. والجواب المعقول: ما تهم فيه الخصوصية وكثرة الطلبات، مثل مساعد داخلي للشيفرة أو تحليل مستندات مغلقة.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول ما الذي جرى ضغطه ولماذا تكفي 150 غيغابايت؟

بُني MiniMax M3.1 Flash وفق معمارية Mixture of Experts، أي «خليط الخبراء». يضم النموذج 428 مليار معامل في المجموع، لكن نحو 23 مليارًا فقط تعمل لكل رمز. الأمر أشبه بمكتبة ضخمة: عليك تخزين جميع الأرفف، لكنك تفتح لكل سؤال بضعة أرفف مناسبة فحسب. لذلك يتطلب كل رمز حسابات أقل بكثير مما يتطلبه نموذج «كثيف» بالحجم نفسه. وعنق الزجاجة هنا هو الذاكرة، لا القدرة الحسابية. والذي يوفّر الذاكرة هو التكميم (quantization). تُخزَّن الأوزان عادةً بـ16 بت لكل رقم.

ما أبرز التفاصيل حول كيف نقرأ رقم 91.5%؟

يسمّيه المنشور top-1 token agreement. على النص نفسه يتنبأ النموذجان بالرمز التالي، وفي 91.5% من الحالات يتطابق خيارهما الأرجح. وهذه نتيجة جيدة لضغط بدقة 2 بت، لكن لهذا المقياس حدودًا. أولًا، هو ليس تقييمًا على مهام حقيقية مثل البرمجة أو استدعاء الأدوات. فقد لا يغيّر الاختلاف في 8.5% من الرموز شيئًا في نص عادي. أما في سلسلة طويلة من أفعال الوكيل، فقد يتراكم هذا الاختلاف ويقود إلى قرار مختلف. ثانيًا، الرقم مأخوذ من تغريدة، لا من تقرير مستقل.

ما أبرز التفاصيل حول لماذا يهم هذا المطورين والفرق؟

ينخفض حاجز الدخول إلى النماذج المفتوحة الكبيرة. فإذا كان لديك جهاز بذاكرة 192 غيغابايت أو أكثر، لم يعد نموذج بـ428 مليار معامل أمرًا نظريًا. وما يمنحه ذلك: الخصوصية. تبقى الشيفرة والمستندات والبيانات الداخلية على جهازك ولا تنتقل إلى واجهة API سحابية. تكاليف يمكن التنبؤ بها. بدلًا من الدفع عن كل رمز، تشتري العتاد مرة واحدة، وهذا مجدٍ عند الحمل الدائم. التجارب. يمكنك مقارنة النسخة المحلية المضغوطة بالنسخة السحابية ورؤية أين بالضبط تتراجع الجودة. وهناك قيود أيضًا.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…