SmolLM2-1.7B يتفوق على نماذج بحجم 34B في توليد شيفرة MLIR دون إعادة تدريب
تفوّق النموذج الصغير SmolLM2-1.7B على نماذج برمجية بحجم 15-34B من المعاملات في توليد شيفرة MLIR، وهي التمثيل الوسيط الذي تعتمد عليه TensorFlow وJAX وPyTorch. ولم يلجأ المؤلفون إلى إعادة التدريب، بل اشتقوا قواعد فك الترميز آليًا من مواصفات كل لهجة. وعلى لهجة linalg، بلغت نسبة البرامج الصالحة التي ولّدها النموذج 80%، أي أعلى بما بين 21 و44 نقطة من المنافسين الأكبر حجمًا، وبسرعة أعلى بما بين 8 و25 مرة.
معالج بواسطة الذكاء الاصطناعي من arXiv cs.AI؛ بتحرير Hamidun News
قدّم باحثون في يوليو 2026 على arXiv طريقة مكّنت نموذج اللغة SmolLM2-1.7B من توليد شيفرة MLIR صحيحة بمستوى نماذج أكبر منه بما بين 15 و34 مرة، دون إعادة تدريب، وذلك بفضل قيود فك الترميز المشتقة آليًا من مواصفات اللهجات.
لماذا يصعب على النماذج توليد MLIR؟
MLIR (Multi-Level Intermediate Representation) هو التمثيل الوسيط الذي تقوم عليه البنية التحتية لمترجمات ML الحديثة: TensorFlow وJAX/StableHLO وPyTorch Inductor وIREE. ومع ذلك، لا تظهر MLIR في مجموعات بيانات تدريب نماذج اللغة إلا بكميات ضئيلة جدًا، ولذلك تولّدها النماذج بصورة ضعيفة.
وتكمن الصعوبة الرئيسية في قابلية التوسّع. فقد صُمّمت MLIR لتتوسع بـ«لهجات» (dialects) جديدة لكل مجال تطبيقي، ولا يمكن تعميم الحل القائم على إعادة تدريب نموذج مستقل لكل لهجة. وطرح المؤلفون السؤال التالي: هل يمكن لمعطيات مسبقة (priors) تُطبَّق وقت الاستدلال، وتُشتق آليًا من مواصفات عمليات اللهجة (Operation Definition Specification, ODS)، أن تحلّ محل التكيّف عبر إعادة التدريب بالانحدار التدريجي؟
كيف تعمل القيود المشتقة من المواصفات؟
تبني الطريقة حزمة من ثلاث طبقات من القيود مباشرةً من مخطط اللهجة، ودون أي تدريب. وتستبعد كل طبقة الخيارات غير الصالحة في مرحلة التوليد نفسها.
- C1 — قواعد نحوية خالية من السياق (CFG) تُطبَّق على توقيعات العمليات
- C2 — تقسيم بحسب الأنواع اعتمادًا على شبكة الأنواع (type lattice) المستخرجة من ODS
- C3 — مدقّق نطاق رؤية SSA مع أخذ عينات بالرفض (rejection sampling) وخمس محاولات إعادة
ووفق ملخص الدراسة على arXiv، لم يتطلب نقل الحزمة من مجموعة اللهجات arith+func+memref+linalg إلى StableHLO سطرًا واحدًا من شيفرة القيود الجديدة، إذ يُشتق المخطط من المواصفات تلقائيًا.
إلى أي مدى تفوّق النموذج الصغير على الكبار؟
على اللهجات التي تتحدد فيها دلالات المدقّق بقيود بنيوية، مكّنت المعطيات المسبقة المستندة إلى المخطط نموذج SmolLM2-1.7B من مجاراة نماذج بحجم 15-34B من المعاملات أو التفوق عليها. وعلى لهجة linalg، بلغت نسبة البرامج الصالحة 80.0% (المتوسط على ثلاث بذور عشوائية، n=125).
- التفوق على CodeLlama-34B وGranite-Code-34B وStarCoder2-15B يتراوح بين 21 و44 نقطة مئوية، ولا تتداخل فترات الثقة
- سرعة التوليد أعلى بما بين 8 و25 مرة مقارنة بالنماذج الأساسية الكبيرة
- أُصدرت 4 معايير تقييم لتحويل اللغة الطبيعية إلى MLIR (NL-to-MLIR): MLIR-Spec-150 وLinalg-Spec-30 وStableHLO-Spec-30 وStableHLO-Held-Out-200، بإجمالي 410 أزواج «نص→MLIR»
- مجموعات البيانات مرخّصة بموجب Apache-2.0، ومعها datasheets وفق منهجية Gebru وبيانات وصفية بصيغة Croissant 1.0
- أُتيحت للعموم معايير التقييم وأداة فك الترميز وجميع المخرجات المولَّدة وصورة Docker لإعادة إنتاج النتائج
لكن الطريقة لا تتفوق في كل الحالات. فعلى arith+func وعلى مجموعة StableHLO-Held-Out-200 ذات الطابع البارامتري، حيث تتوقف الصحة على قيم السمات لا على بنية الشيفرة، ساوت النماذج الكبيرة النموذج الصغير أو تفوقت عليه، ويصنّف المؤلفون هذه الحالات بصراحة على أنها «non-win cells».
«تتيح المعطيات المسبقة المستندة إلى المخطط لنموذج
SmolLM2-1.7B أن يجاري النماذج البرمجية بحجم 15-34B أو يتفوق عليها، بسرعة توليد أعلى بما بين 8 و25 مرة»، بحسب ملخص الدراسة على arXiv.
ماذا يعني ذلك؟
في اللغات الضيقة الصارمة بنيويًا مثل MLIR، يمكن للقيود المشتقة من المواصفات أن تحلّ محل إعادة التدريب المكلفة: فنموذج صغير مزوَّد بـ«سكك» صحيحة يتفوق على نموذج كبير ويعمل أسرع منه بأضعاف. وهذا يخفض كلفة توليد شيفرة المترجمات ويزيل مشكلة التوسّع مع كل لهجة جديدة.
الأسئلة الشائعة
ما هي MLIR؟
MLIR (Multi-Level Intermediate Representation) هي تمثيل وسيط للشيفرة تعتمد عليه مترجمات ML في TensorFlow وJAX/StableHLO وPyTorch Inductor وIREE. وتتوسع عبر «لهجات» مخصصة لمهام محددة.
لماذا تفوّق نموذج بحجم 1.7B على نماذج بحجم 34B؟
لم يخضع النموذج لإعادة تدريب، بل زُوّد بقيود فك ترميز مشتقة من مواصفات اللهجة. وعلى linalg منحه ذلك 80.0% من البرامج الصالحة، أي أعلى بما بين 21 و44 نقطة مقارنة بـ CodeLlama-34B وGranite-Code-34B وStarCoder2-15B.
أين لم تنجح الطريقة؟
على اللهجات arith+func ومجموعة StableHLO-Held-Out-200، حيث تتوقف الصحة على قيم السمات لا على بنية الشيفرة. وهناك ساوت النماذج الكبيرة نموذج SmolLM2-1.7B أو تفوقت عليه.
Access Frontier LLMs & Multimodal AI in One Workspace
Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.