نماذج محلية على بطاقة رسومات: اختبار Qwen وGemma على Tesla V100
تتعامل بطاقة Tesla V100 الصادرة عام 2017 مع نماذج LLM الحديثة مثل Qwen35B وGPT-OSS-20B. وتتراوح سرعة التوليد بين 38 و109 رموز في الثانية بحسب النموذج. شملت الاختبارات إنشاء مواقع وألعاب ومعالجة المستندات. الحد الأدنى للذاكرة هو 16 غيغابايت، لكن 24 غيغابايت أفضل للاستخدام العام.
معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
يمكن تشغيل نماذج الذكاء الاصطناعي المحلية على بطاقات رسومات صدرت منذ عام 2017. اختبرنا خمسة نماذج مفتوحة شائعة (من Qwen إلى Gemma) على بطاقة Tesla V100 في خمسة سيناريوهات واقعية، تبدأ من توليد النصوص وتصل إلى كتابة الشيفرات البرمجية وإنشاء الألعاب.
ما الشبكات العصبية النصية التي تعمل على V100؟
استخدم الاختبار خمسة نماذج مفتوحة، من بينها Qwen وGemma. وتبلغ سرعة التشغيل 38–109 رموز في الثانية بحسب النموذج والتكميم.
هل يمكن استخدام V100 القديمة مع الشبكات العصبية المحلية؟
نعم، فبحسب الاختبار تعمل V100 مع نماذج LLM الحديثة في توليد النصوص وكتابة الشيفرات البرمجية وسيناريوهات واقعية أخرى.
كم رمزًا في الثانية تنتج
Tesla V100 عند العمل مع النماذج المحلية؟ 38–109 رموز في الثانية بحسب النموذج وحجمه والتكميم.
Access Frontier LLMs & Multimodal AI in One Workspace
Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.