Google DeepMind تقدم DiffusionGemma لتسريع إنشاء النصوص على معالجات NVIDIA

قدمت Google DeepMind نموذج DiffusionGemma — نهج جديد لإنشاء النصوص محسّن للعمل على معالجات NVIDIA. يحل المشكلة الأساسية للمطورين: نماذج اللغة الحديثة تنشئ النصوص token بـ token متسلسل، مما يسبب تأخيراً يزيد التكاليف ويضر بتجربة المستخدم في التطبيقات الفعلية.

كيفية عمل النموذج

يعمل DiffusionGemma بطريقة موازية بدلاً من التنبؤ التسلسلي مثل نماذج Transformer التقليدية. يقلل هذا من الكمون بشكل كبير، فيرى المستخدم الرد كاملاً أسرع بكثير، مما يجعل التفاعل مع الذكاء الاصطناعي أكثر حيوية واستجابة. طُور النموذج خصيصاً لهندسة معالجات NVIDIA، مما يسمح باستخدام أمثل للقوة الحسابية وتوزيع أكفأ للذاكرة.

التطبيقات التي تحتاج DiffusionGemma

مفيدة بشكل خاص للمطورين الذين يبنون:

• مساعدات حوارية، حيث كل ملي ثانية من التأخير ملحوظة للمستخدم
• Copilots لبيئات التطوير والمستندات — تحتاج إلى اقتراحات فورية
• سير عمل الوكيل الذكي، حيث يجب على الذكاء الاصطناعي اتخاذ القرارات والعمل بسرعة
• التطبيقات التي تعمل على موارد محدودة، حيث تكون توفير ذاكرة GPU حاسمة
• أنظمة الإنتاج، حيث تؤثر تكاليف الاستدلال مباشرة على الهامش

تحسين NVIDIA

التحسين لمعالجات NVIDIA ليس مجرد دعم CUDA. قامت Google DeepMind بتكييف خوارزمية DiffusionGemma مباشرة لخصائص هندسة GPU: أنماط الذاكرة، وحجم الكتل، وعرض النطاق الترددي. النتيجة: يعمل النموذج بسرعة 3-5x أسرع من المنصات غير المحسّنة، مع الحفاظ على جودة الإنشاء. بالنسبة للمطورين، هذا يعني: يمكنهم الحصول على نتيجة أسرع، أو خدمة مزيد من المستخدمين على نفس GPU بتكلفة أقل. كلا الخياران يحقق ربح للعمل.

ما يعنيه هذا

يوضح DiffusionGemma أن عصر مجرد توسيع نطاق نماذج اللغة ينتهي. بعد ذلك، سينجح من يحسّن الهندسة المعمارية للأجهزة والمهام المحددة. بالنسبة للمطورين الذين يعملون على معالجات NVIDIA، هذه فرصة لتحسين سريع لزمن التأخير وخفض تكاليف الاستدلال دون إعادة تطوير كاملة للتطبيق.