NVIDIA Nemotron: نموذج نصي أسرع بست مرات
يولّد Nemotron من NVIDIA 32 رمزًا (توكن) دفعة واحدة بدلاً من رمز واحد، مستخدمًا الانتشار (diffusion) بدلاً من الانحدار الذاتي (autoregression). ويجمع النموذج الواحد ثلاثة أوضاع: autoregressive التقليدي، وdiffusion السريع، والتخمين الذاتي الذي يحقق تسريعًا بمقدار 6× على B200. والنماذج بأحجام 3B وَ8B وَ14B متاحة بالفعل بصيغة المصدر المفتوح (open source).
معالج بواسطة الذكاء الاصطناعي من Hugging Face Blog؛ بتحرير Hamidun News
قدّمت NVIDIA نموذج Nemotron، وهو نموذج نصي يولّد عدة رموز (توكن) في وقت واحد بدلاً من الإخراج المتدرج، ما يجعله أسرع بست مرات من النماذج القياسية.
لماذا يكون التوليد النصي المتوازي أسرع من التوليد المعتاد؟
تعمل النماذج اللغوية التقليدية بنمط autoregressive: تولّد رمزًا واحدًا ثم الرمز الذي يليه. وعند توليد جملة من 100 رمز، ينفّذ النموذج 100 تمريرة. أما Nemotron فيولّد عدة رموز في وقت واحد، فيقلّص عدد التمريرات.
بكم نسبة يتفوق
Nemotron على الشبكات العصبية الأخرى في السرعة؟ يولّد Nemotron النص أسرع بست مرات من النماذج اللغوية التقليدية.
كيف يولّد Nemotron النص أسرع من الشبكات العصبية المعتادة؟
تعمل النماذج اللغوية التقليدية بنمط autoregressive، أي أنها تولّد رمزًا واحدًا ثم الذي يليه، وهذا يتطلب تمريرات كثيرة عبر الشبكة العصبية. ويحتاج توليد 100 رمز إلى 100 تمريرة. أما Nemotron فيولّد عدة رموز في وقت واحد، فيقلّص عدد التمريرات ويوفّر وقت GPU.
Access Frontier LLMs & Multimodal AI in One Workspace
Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.