تبدأ 23 نوفمبرالدفعة المباشرة 3 من Vibe Coding ووكلاء الذكاء الاصطناعي: 3 أسابيع و9 جلسات حيةالدفعة 3 (23.11) →
إصدارتحليل · على الرادارX: @cheese_cakee_9→ المصدر

نموذج Inkling 2 Mini بـ26 مليار معامل يُدخل مليون رمز في 16 ГиБ بدلاً من 96

حين تقرأ الشبكة العصبية نصاً طويلاً، فإنها تحتفظ بملاحظات عن كل رمز (token، أي جزء من كلمة) في KV-cache، وعند مليون رمز تتضخم هذه الذاكرة إلى عشرات الغيغابايتات. أما في Inkling 2 Mini بـ26 مليار معامل فتشغل نحو 16 ГиБ بدلاً من نحو 96 بصيغة fp8. والسبب أن 8 فقط من أصل 48 مروراً عبر الطبقات تحتفظ بالذاكرة الكاملة، بينما تنظر البقية إلى آخر 1024 رمزاً فقط. وهذا يعني توفيراً في الذاكرة بمقدار ست مرات عند التشغيل على عتادك الخاص.

معالج بواسطة الذكاء الاصطناعي من X: @cheese_cakee_9؛ بتحرير Hamidun News
نموذج Inkling 2 Mini بـ26 مليار معامل يُدخل مليون رمز في 16 ГиБ بدلاً من 96
المصدر: X: @cheese_cakee_9. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليX: @cheese_cakee_9 ↗
رئيس التحرير
حقيقة رئيسية #1انتباه كامل في 4 طبقات فقط من أصل 24؛ والطبقتان 11 و17 تمران في حلقة 3 مرات لكل منهما
حقيقة رئيسية #2الطبقات العشرون الأخرى تنظر إلى نافذة من 1024 رمزاً فقط
حقيقة رئيسية #3التقييم 20,1 في مؤشر AA Index؛ أما Inkling 2 Small فلديه 594 مليار معامل

تخيّل أنك تطلب من نموذج تحليل مستودع برمجي كامل أو مراسلات سنة كاملة: يبلغ ذلك نحو مليون رمز (الرمز هو تقريباً جزء من كلمة). ولكي لا يعيد النموذج قراءة كل شيء من جديد في كل خطوة، يحتفظ بملاحظات مساعدة عن كل رمز. تُسمّى هذه الذاكرة KV-cache، وهي عادةً ما تشكّل السقف الفعلي للسياق الطويل: فالأوزان نفسها تتسع في الذاكرة، بينما تتضخم ذاكرة KV-cache عند مليون رمز إلى عشرات الغيغابايتات.

أطلقت Thinking Machines نموذج Inkling 2 Mini بـ26 مليار معامل، ووفق تحليل للبنية نُشر على X، تشغل ذاكرته المؤقتة عند مليون رمز كامل نحو 16 ГиБ (غيبيبايت، وهو تقريباً ما يعادل الغيغابايت) بدلاً من نحو 96 ГиБ لو كانت كل طبقة تخزّن كل شيء. وصيغة التخزين هي fp8، أي 8 بتات لكل رقم. وفيما يلي مصدر هذا الفارق البالغ ست مرات.

لماذا ظهر Mini

تكتب الشركة أن بعض المستخدمين رأوا أن النموذج السابق Inkling 2 Small كبير جداً: فهو بـ594 مليار معامل. والجواب هو Inkling 2 Mini، وهو looped transformer، أي محوّل بحلقة. يُمرَّر جزء من طبقاته عدة مرات بدلاً من الاحتفاظ بنسخ منفصلة من الأوزان. وإجمالي المعاملات 26 مليار فقط. تصرّح الشركة بأن النموذج صغير بما يكفي للتشغيل على حاسوب محمول ويصلح للمهام الوكيلية (agentic)، وأن تقييمه في مؤشر Artificial Analysis (AA Index) هو 20,1. أما كيف يقارَن ذلك بالمنافسين فلم يرد في المصدر، ولذلك ينبغي اعتبار هذا الرقم مؤشراً تقريبياً لا دليلاً على الجودة.

من أين تأتي 16 ГиБ بدلاً من 96

الحساب كالتالي. تتألف الشبكة من 24 طبقة. عشرون منها تعمل بنافذة منزلقة من 1024 رمزاً: كل طبقة تنظر فقط إلى آخر 1024 رمزاً، فتكون ذاكرتها المؤقتة صغيرة جداً ولا تنمو مع السياق. أما الطبقات الأربع الباقية، وأرقامها 5 و11 و17 و23 (والعدّ يبدأ من الصفر)، فتستخدم الانتباه الكامل وتتذكر المليون رمز كله.

الآن إلى الحلقة. تقع الطبقتان 11 و17 داخل كتلة مكرَّرة وتُنفَّذ كل منهما 3 مرات، أما الطبقتان 5 و23 فتُنفَّذ كل منهما مرة واحدة. فيكون الناتج 1 + 1 + 3 + 3 = 8 مرورات بذاكرة كاملة. وإجمالي المرورات عبر الطبقات 48، أي أن الذاكرة الكاملة مطلوبة في مرور واحد فقط من كل ستة.

في هذه المرورات الثمانية وبصيغة fp8 يصل الحجم إلى نحو 16 КиБ لكل رمز (نحو 2 КиБ لكل مرور). وبضرب ذلك في مليون رمز نحصل على نحو 16 ГиБ. أما لو خزّنت المرورات الـ48 كلها ذاكرة كاملة، لبلغ الحجم نحو 96 ГиБ. وهذا هو الفرق بين «نحتاج إلى GPU للخوادم» و«قد يتسع في ذاكرة محطة عمل قوية».

لاحظ أن الحلقة توفّر المعاملات، لكنها لا توفّر الذاكرة المخصصة للانتباه الكامل. ففي التحليل يُحتسب كل مرور عبر الطبقة على حدة، ولذلك تُحتسب الطبقتان 11 و17 ثلاث مرات. والذي يقلّص الذاكرة المؤقتة هو الجمع بين الأمرين: أن الغالبية العظمى من الطبقات تنظر إلى نافذة ضيقة.

ماذا نفعل بهذا عملياً

أولاً، عند التخطيط للتشغيل المحلي، احسب الأوزان والذاكرة المؤقتة معاً. فأوزان 26 مليار معامل بصيغة fp8 تبلغ نحو 26 ГБ (وهذا تقدير تقريبي منا، ولم تذكره الشركة)، وستضيف الذاكرة المؤقتة عند مليون رمز كامل نحو 16 ГиБ أخرى. لذلك فإن عبارة «سيعمل على حاسوب محمول» تتوقف على ذاكرة الجهاز المعيّن وعلى طول السياق الفعلي: ففي الطلبات القصيرة ستكون الذاكرة المؤقتة أصغر بكثير.

ثانياً، يبدو نهج «انتباه كامل نادر مع كثير من الطبقات المحلية» أسلوباً هندسياً عملياً للسياقات الطويلة. والثمن هو خطر أن يلتقط النموذج الروابط البعيدة في النص بصورة أضعف من شبكة ذات انتباه كامل في كل الطبقات. ولا توجد في المصدر اختبارات مستقلة للجودة عند مليون رمز: هناك فقط تصريح الشركة ودرجة واحدة في AA Index.

ثالثاً، هذه إشارة لفرق المنتجات: فالسيناريوهات الوكيلية ذات السجل الطويل من الإجراءات والمستودعات الكبيرة والسجلات (logs) تصبح تدريجياً في متناول الأجهزة المحلية. لكن قبل بناء منتج على Mini، من الأفضل انتظار اختبارات مستقلة على مهام طويلة حقيقية ومقارنته بالنماذج المدمجة من مختبرات أخرى.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول لماذا ظهر Mini؟

تكتب الشركة أن بعض المستخدمين رأوا أن النموذج السابق Inkling 2 Small كبير جداً: فهو بـ594 مليار معامل. والجواب هو Inkling 2 Mini، وهو looped transformer، أي محوّل بحلقة. يُمرَّر جزء من طبقاته عدة مرات بدلاً من الاحتفاظ بنسخ منفصلة من الأوزان. وإجمالي المعاملات 26 مليار فقط. تصرّح الشركة بأن النموذج صغير بما يكفي للتشغيل على حاسوب محمول ويصلح للمهام الوكيلية (agentic)، وأن تقييمه في مؤشر Artificial Analysis (AA Index) هو 20,1.

ما أبرز التفاصيل حول من أين تأتي 16 ГиБ بدلاً من 96؟

الحساب كالتالي. تتألف الشبكة من 24 طبقة. عشرون منها تعمل بنافذة منزلقة من 1024 رمزاً: كل طبقة تنظر فقط إلى آخر 1024 رمزاً، فتكون ذاكرتها المؤقتة صغيرة جداً ولا تنمو مع السياق. أما الطبقات الأربع الباقية، وأرقامها 5 و11 و17 و23 (والعدّ يبدأ من الصفر)، فتستخدم الانتباه الكامل وتتذكر المليون رمز كله. الآن إلى الحلقة. تقع الطبقتان 11 و17 داخل كتلة مكرَّرة وتُنفَّذ كل منهما 3 مرات، أما الطبقتان 5 و23 فتُنفَّذ كل منهما مرة واحدة. فيكون الناتج 1 + 1 + 3 + 3 = 8 مرورات بذاكرة كاملة.

ما أبرز التفاصيل حول ماذا نفعل بهذا عملياً؟

أولاً، عند التخطيط للتشغيل المحلي، احسب الأوزان والذاكرة المؤقتة معاً. فأوزان 26 مليار معامل بصيغة fp8 تبلغ نحو 26 ГБ (وهذا تقدير تقريبي منا، ولم تذكره الشركة)، وستضيف الذاكرة المؤقتة عند مليون رمز كامل نحو 16 ГиБ أخرى. لذلك فإن عبارة «سيعمل على حاسوب محمول» تتوقف على ذاكرة الجهاز المعيّن وعلى طول السياق الفعلي: ففي الطلبات القصيرة ستكون الذاكرة المؤقتة أصغر بكثير. ثانياً، يبدو نهج «انتباه كامل نادر مع كثير من الطبقات المحلية» أسلوباً هندسياً عملياً للسياقات الطويلة.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…