مختبر AI منزلي مقابل 200 ألف روبل

كانت بطاقة الرسومات Tesla V100 تكلف ثمانية آلاف دولار في عام 2017. الآن تُباع في السوق الثانوية بحوالي ألف وخمسمائة. غيّر هذا الرقم اقتصاديات وحدات معالجة الرسومات السحابية. على أمازون أو Vast.ai، استئجار V100 سيكلفك 0.40–0.80 دولار في الساعة، أو 300–600 في الشهر. اشترِ اثنتي V100، اجمع خادماً بـ 200 ألف روبل — سيؤتي ثماره في ستة أشهر. اشترى مؤلف الاختبار بالضبط هذا واختبر 128 شبكة عصبية مختلفة: من نماذج اللغة الكبيرة الصغيرة إلى مولدات الفيديو. إليك ما حدث.

لماذا Tesla V100 رخيصة جداً؟

Tesla V100 هي بطاقة احترافية لمراكز البيانات، أُطلقت في عام 2017. 32 جيجابايت من الذاكرة، 235 TFLOPS في الدقة النصفية، 125 واط TDP. أُطلقت بكميات ضخمة، ثم ظهرت A100. باعت مزارع السحابة V100s القديمة برخص بخس. اشترى المُعدّاؤون الأفراد والشركات الناشئة البقية. الآن السوق الثانوية مليئة بالبطاقات، والسعر انخفض أكثر. الرقاقة قديمة من حيث الهندسة، لكن للاستدلال — مثالية.

أين تتعثر V100؟

الجدول صادق: V100 يفشل في TensorFlow (تحسين الحساب المرتبط بـ CPU ضعيف). توليد الفيديو يستغرق خمس دقائق على Flux.1 — ستتجمد في الانتظار. توليد النصوص لائق، لكن ليس سريعاً: Llama 2 70B ينتج 80 رمز في الثانية على int4. للمقارنة، A100 السحابية تعطي 300+. هناك تفاصيل دقيقة مع الذاكرة: 32 جيجا كافية لمعظم النماذج، لكن تشغيل نموذجين بـ 70 مليار في نفس الوقت — لن يعمل.

الاختبارات الفعلية

• Mistral 7B: 200 رمز/ثانية (int4)
• Llama 2 70B: 80 رمز/ثانية (int4)
• Stable Diffusion 1.5: 0.8 ثانية لكل صورة
• Stable Diffusion XL: 2.5 ثانية
• Whisper Large: 0.3 الوقت الفعلي (صوت 60 دقيقة في 18 دقيقة)
• Flux.1: 300 ثانية لـ 1024×1024

الاقتصاديات: سحابة أم معادن؟

وحدات معالجة الرسومات السحابية (Lambda, Vast.ai) تكلف 0.40–0.80 دولار/ساعة على V100. الإيجار الشهري: 300–600 دولار. خادمنا يؤتي ثماره في 4–6 أشهر من التشغيل. مزايا المحلي: الكهرباء أرخص من حركة المرور السحابية، التحكم الكامل، بدون تأخير. العيوب: المسؤولية عن الأجهزة، التبريد، الترقيات — كل شيء يقع على عاتقك.

ماذا يعني هذا

خادم الذكاء الاصطناعي المحلي ليس بديلاً للسحابة، بل مكملاً لها. إذا كنت تشغّل نماذج كل يوم، اختبرت الفكرة، تعرف أي شبكات عصبية تحتاج — خادم بـ 200 ألف روبل يوفر لك عشرات الآلاف في السنة ويعطيك السيطرة النهائية على بنيتك التحتية.