أطلقت JetBrains Mellum2 — نموذج MoE مفتوحًا بحجم 12B للمهام السريعة ضمن AI pipelines

JetBrains — الشركة التي أنشأت أدوات IDE IntelliJ IDEA و PyCharm التي يستخدمها عشرات الملايين من المطورين — أطلقت Mellum2، نسخة محدثة من نموذج اللغة المتخصص. يتم إطلاق Mellum2 بموجب ترخيص Apache 2.0 وهو مصمم لمعالجة سريعة للمهام المتخصصة كجزء من خطوط أنابيب الذكاء الاصطناعي متعددة النماذج.

Mellum هو خط JetBrains الملكي لنماذج اللغة لمهام البرمجة. Mellum2 هو تحديث مهم: معمارية MoE جديدة وحجم بيانات تدريب مقياس ووضع واضح كمكون متخصص للأنظمة متعددة النماذج.

معمارية MoE وحجم التدريب

تم بناء Mellum2 على معمارية Mixture of Experts (MoE) بـ 12 مليار معامل. على عكس النماذج الكثيفة الكلاسيكية حيث يتم تفعيل جميع أوزان الشبكة مع كل طلب، يقسم MoE النموذج إلى كتل "خبير" متخصصة وينشط فقط جزء منها اعتمادا على نوع الرمز. هذا يسمح للنموذج بالعمل بشكل أسرع وأكثر اقتصادا بنفس السعة.

للتدريب المسبق، استخدمت JetBrains مجموعة مكونة من 10.6 تريليون رمز — حجم مماثل لنماذج مفتوحة العلم مثل LLaMA 3 من Meta. بالنسبة لنموذج الترميز، يعتبر حجم البيانات حاسما: كلما كان التغطية أوسع للغات البرمجة والأطر والتوثيق التقني، كلما تعامل النموذج بدقة أكبر مع المهام في قواعد الكود الحقيقية.

الدور في خطوط الأنابيب متعددة النماذج

لا تطمح Mellum2 للمنافسة مع المساعدات العالمية مثل Claude أو GPT. تم تصميمه كمكون متخصص سريع لخطوات محددة في سير العمل للمطورين:

• إكمال التعليمات البرمجية في الوقت الفعلي مباشرة في IDE
• إعادة البناء السريع للوظائف الصغيرة وكتل الكود
• تصنيف الاستعلامات والتوجيه داخل وكلاء الذكاء الاصطناعي
• توليد التعليقات والتوثيق المضمن
• تنفيذ خطوات وسيطة "رخيصة" قبل تمرير المهمة إلى نموذج أكبر

السيناريو الأخير هو المفتاح. يتم بشكل متزايد بناء أنظمة الذكاء الاصطناعي في الإنتاج للتطوير كـ "أوركسترات نموذجية": نموذج خفيف سريع يعالج الطلبات الروتينية بحد أدنى من الكمون، وينخرط نموذج راية ثقيل فقط للمهام المعقدة التي تتطلب تفكيرا عميقا. تم إنشاء Mellum2 بالضبط للدور المتخصص السريع في مثل هذه خطوط الأنابيب.

ترخيص Apache 2.0 مفتوح المصدر

Apache 2.0 هو أحد أكثر تراخيص مفتوحة المصدر سخاء. يمكن دمج Mellum2 في المنتجات المؤسسية المغلقة وضبطها على البيانات الملكية واستخدامها في الخدمات التجارية دون دفع رسوم الملكية لـ JetBrains. تنشر الشركة أوزان النموذج في الوصول المفتوح.

من بين نماذج الترميز ذات الأوزان المفتوحة توجد منافسة كبيرة: Code Llama من Meta و DeepSeek-Coder و StarCoder و Qwen2.5-Coder. تدخل Mellum2 هذا الفضاء بموضع محدد — تكامل عميق في النظام البيئي IDE لـ JetBrains والدور كمكون متخصص في خطوط أنابيب متعددة المراحل وليس محاولة للتفوق على الرايات في معايير توليد الكود العامة.

ما معنى هذا

Mellum2 هو دليل على اتجاه مهم: الشركات التي تنشئ أدوات للمطورين تبتعد عن شراء الذكاء الاصطناعي من موفري خارجيين وتبدأ في تدريب نماذجها المتخصصة الخاصة بها لسيناريوهات المستخدمين المحددة. تراهن JetBrains على أن التكامل العميق IDE والتخصص في المجال أكثر أهمية من الأفضلية المجردة في معايير عالمية. بالنسبة للمطور، هذا يعني اقتراحات ذكاء اصطناعي أسرع مباشرة في المحرر المألوف — دون تأخير API السحابة وبدون الحاجة إلى إرسال الكود الخاص به إلى خوادم الجهات الخارجية.