NVIDIA تطلق Nemotron: نموذج نصي بأوزان مفتوحة

نشرت NVIDIA نموذج Nemotron-Labs-TwoTower النصي بأوزان مفتوحة، وهو نموذج لغوي انتشاري مبني على Nemotron-3-Nano-30B-A3B ومصمَّم لتسريع توليد النصوص.

ما القيد في النماذج الانحدارية الذاتية؟

تشكّل البنى الانحدارية الذاتية (AR) أساس GPT وLlama وGemini ومعظم نماذج LLM الأخرى. ومبدأ عملها بسيط: يُتنبأ بكل رمز تالٍ استنادًا إلى جميع الرموز السابقة، وتجري العملية بتتابع صارم. هذا أنيق على مستوى التدريب، لكنه يخلق مشكلة محددة عند الاستدلال (inference) في البيئات الإنتاجية.

لا يمكن حساب الرمز التالي قبل اكتمال الرمز السابق. وإضافة مسرّعات GPU إلى العنقود لا ترفع هذا القيد، فهو مضمَّن في البنية على مستوى الرسم الحسابي: ففك الترميز تتابعي بحكم التعريف. وعند توليد إجابات طويلة ينتظر المستخدم وقتًا أطول بما يتناسب مع طولها، بينما تصطدم تكلفة الرمز الواحد عند التوسع بحدّ أدنى صلب. وبالنسبة إلى المزوّدين الذين يعالجون مليارات الطلبات يوميًا، تمثّل هذه الحالة تكاليف تشغيلية مباشرة ودائمة. ولهذا يُعدّ تسريع الاستدلال أحد أهم اتجاهات البحث في القطاع، إلى جانب تقليص حجم النماذج والتكميم (quantization).

تقترح النماذج اللغوية الانتشارية المتقطعة آلية بديلة: فبدلًا من فك الترميز خطوة بخطوة، تُنقّح كتلة المخرجات بأكملها تكراريًا في بضع خطوات. وهذا يفتح إمكانية توليد عدة رموز بالتوازي في تمريرة واحدة، وبالتالي ملف إنتاجية مختلفًا جذريًا.

كيف تعمل بنية TwoTower؟

يجمع التصميم ثنائي الأبراج بين النهجين AR والانتشاري في نموذج واحد:

• الهيكل الأساسي AR: Nemotron-3-Nano-30B-A3B المدرَّب مسبقًا (30 مليار معامل، مجمَّد)
• الرأس الانتشاري: مكوّن قابل للتدريب فوق الهيكل الأساسي المجمَّد
• أوزان مفتوحة: ترخيص NVIDIA Nemotron Open Model License
• تاريخ الإصدار: 1 يوليو 2026

يُعدّ تجميد الهيكل AR قرارًا جوهريًا في هذه البنية. فبدلًا من تدريب نموذج انتشاري من الصفر، تستخدم NVIDIA أساسًا AR مدرَّبًا مسبقًا بوصفه مصدرًا ثابتًا لتمثيلات اللغة السياقية. ولا يُدرَّب سوى المكوّن الانتشاري، مما يخفض التكاليف الحسابية للتجربة ويقلّل البيانات اللازمة للتكيّف. كما أن اختيار Nemotron-3-Nano-30B-A3B هيكلًا أساسيًا يسهّل قابلية إعادة الإنتاج: إذ يمكن لفرق أخرى تكرار التجربة بالاعتماد على نقطة الحفظ (checkpoint) العامة نفسها.

لماذا يمثّل الانتشار في النصوص مهمة غير يسيرة؟

أصبحت النماذج الانتشارية معيارًا في توليد الصور: فـ Stable Diffusion وMidjourney وDALL-E 3 تعمل بهذا المبدأ تحديدًا. أما نقله إلى النص فأصعب بكثير: فالبكسلات توجد في فضاء عددي متصل، بينما الرموز متقطعة. ولا ينطبق الضجيج الغاوسي القياسي على الكائنات المتقطعة، ولذلك تُطوَّر للنصوص عمليات انتشار متقطع خاصة.

يتطور هذا الاتجاه بنشاط، لكنه لا يزال فتيًّا بمقاييس القطاع. فقد أظهرت أعمال سابقة، مثل MDLM وSEDD وغيرهما، نتائج منافسة في اختبارات اللغة المعيارية، غير أن الفجوة في الجودة مع أفضل أنظمة AR ظلّت قائمة. ويمثّل نهج NVIDIA ثنائي الأبراج محاولة لرفع هذه المفاضلة: أخذ التمثيلات اللغوية القوية من نموذج AR مدرَّب فعلًا، وإضافة آلية انتشارية إليها، دون فقدان المعارف المتراكمة حول البنية النحوية والدلالة والتبعيات السياقية.

وللأوزان المفتوحة قيمة خاصة للأوساط الأكاديمية: إذ يستطيع الباحثون إعادة إنتاج البنية، وقياس الزيادة الفعلية في الإنتاجية على مهامهم الخاصة، واقتراح تحسينات فوق نقطة الحفظ المنشورة.

ماذا يعني ذلك؟

يمثّل Nemotron-Labs-TwoTower خطوة عملية نحو تسريع استدلال LLM دون استبدال العتاد. وNVIDIA، بوصفها المورّد الرائد لوحدات GPU في سوق AI، معنية بتوسيع نطاق تطبيق النماذج اللغوية، ومن ذلك عبر خفض تكلفة الاستدلال. وإذا أثبت النهج الهجين AR+الانتشاري جدارته في سيناريوهات الأحمال الفعلية، سواء من حيث جودة التوليد أو التسريع الحقيقي في throughput، فقد يؤثر في الخيارات المعمارية عند تطوير الجيل القادم من الأنظمة اللغوية.

ما هو Nemotron-Labs-TwoTower؟

هو نموذج نصي من NVIDIA يعتمد بنية انتشارية بدلًا من النهج الانحداري الذاتي التقليدي. وكان الهدف من تطويره إزالة عنق الزجاجة (bottleneck) في سرعة توليد النصوص.

هل يمكن استخدام نموذج NVIDIA Nemotron في روسيا؟

نعم. يُوزَّع النموذج بموجب ترخيص مفتوح هو NVIDIA Nemotron Open Model License، الذي يتيح استخدامه في أي بلد.