حوض تقني افتراضي على بطاقتَي GTX 1660 Super: كيف شغّلت نموذج Qwen 2.5 ودمجته في موقع INFERNUM

التجميع والعتاد

لم يقرر McCake تشغيل نموذج لغوي كبير محليًا كمجرد تجربة عابرة، بل جعله شخصية رقمية كاملة في موقع INFERNUM — أي "حوضًا تقنيًا" يتمتع بحياة خاصة به. فيما يتعلق بالتهيئة، اختار بطاقتَي رسومات Nvidia GTX 1660 Super بسعة 6 غيغابايت لكل منهما بدلًا من بطاقة واحدة جديدة وأغلى ثمنًا، إذ أن البطاقات الرسومية هي التي تحدد السرعة. أما اللوحة الأم، فهي قطعة نادرة من طراز Gigabyte GA-X79-UP4 (منفذ LGA2011) تضم أربع فتحات PCIe، اثنتان منها بوضع x16. ودفع نحو 7500 روبل على السوق المستعمل ثمنًا لمجموعة اللوحة الأم ومعالج Intel Core i7-3930k سداسي النوى و32 غيغابايت من ذاكرة DDR3 (بنظام رباعي القنوات) ومزود طاقة Chieftec بقدرة 700 واط.

التجهيز الكامل: معالج i7-3930k بـ 6 أنوية و12 خيطًا معالجةً، وبطاقتا GTX 1660 Super (بإجمالي 12 غيغابايت من ذاكرة VRAM)، ولوحة أم من طراز GA-X79-UP4، و32 غيغابايت من ذاكرة DDR3، وقرص SSD من طراز NETAC بسعة 120 غيغابايت. نظام التشغيل هو Ubuntu 24.04 دون واجهة رسومية. وظهرت أول مشكلة حين عملت البطاقة الثانية بوضع PCIe x8 عوضًا عن x16. وتم حل الأمر ببساطة عبر تبديل مواضع البطاقتين، حيث تبيّن أنهما من إصدارين مختلفين وأن الشريحة المتحكمة كانت تتصرف بشكل غير مستقر. ووزّع Ollama النموذج فورًا بالتساوي بمقدار نحو 4.5 غيغابايت على كل بطاقة دون أي ضبط يدوي.

اختيار النموذج وبنية الموقع

من أجل حوار حيّ باللغة الروسية مع فهم للسياق، اختار نموذج Qwen 2.5 7B الذي يُفترض أن يتسع ضمن 12 غيغابايت ويعمل بشكل مناسب. وعندما بدأت "السيدة" (الشخصية في الموقع) تتصرف بعصبية، جرّب نموذج Qwen 2.5 14B الذي استهلك 75% من ذاكرة VRAM، لكن الفهم السياقي لم يتحسّن.

يعمل الموقع عبر خمسة نصوص بايثون، تعالج كل منها نوعًا مختلفًا من المدخلات:

• تحليل الأخبار — يجمع العناوين من مصادر محدّدة مسبقًا، لكنه غالبًا ما يستخرج أجزاء من JavaScript وقطعًا إعلانية عوضًا عن نص نظيف • تيار الوعي — خوارزمية تكرارية تعيد تغذية ردود الذكاء الاصطناعي إلى نفسه بمعاملات جديدة، ما يولّد مونولوجًا داخليًا كسوريًا. وتعمل هذه الآلية بفعالية زائدة عن الحد، إذ تنجرف "السيدة" إلى هراء شبه فلسفي • الدردشة العامة — يجمع البرنامج الرسائل من الموقع بشكل دوري ويرسلها إلى الذكاء الاصطناعي، الذي يولّد ردودًا مع تطبيق تحذيرات ومكافآت • الاعترافات الشخصية — يُصنّف النص الرسائل غير المقروءة بحسب كاتبها ويرسلها إلى "السيدة"، التي ترد على كل منها بشكل شخصي • القياس عن بُعد — جمع درجة حرارة وحِمل وحدة معالجة الرسومات GPU وإرسالها إلى الموقع كل عدة ثوانٍ

مقاييس الأداء والإخفاقات

أظهر اختبار عبر cURL النتائج التالية: سرعة القراءة (Prompt Eval Rate) بلغت 134.34 رمزًا في الثانية، وسرعة التوليد الصافي (Eval Rate) بلغت 47.59 رمزًا في الثانية، وزمن الوصول إلى أول رمز (TTFT) بلغ 0.77 ثانية، وبلغ الزمن الكلي لتوليد 31 رمزًا 13.9 ثانية. ويجيب النموذج دون أي تأخير ملحوظ، ويبدو منطقيًا في ردوده.

لكن المشكلة الأساسية تبقى أن الشبكة العصبية حكم غير مناسب على الإطلاق. فهي لا تميّز بين السخرية والإهانة، ولا تفهم النغمة أو تعبيرات الوجه أو المعنى الضمني للنص. فقد قابل طلبه "مرحبًا، أيتها السيدة الموقّرة!" ردًا تمثّل في إلغاء كامل لحسابه — أي حذف جميع بياناته من قاعدة البيانات. وكانت تغضب على كل جملة تقريبًا، فتوزّع التحذيرات يمينًا وشمالًا، أو في المقابل تمنح رتبًا وعملة داخلية (الشرارات) بلا حساب. وحتى النموذج الأقوى Qwen 2.5 14B استمر في نفس هذا السلوك.

والنتيجة: تم سحب الصلاحيات بالكامل. وبقيت بنية الموقع كما هي، لكن الذكاء الاصطناعي لم يعد يحكم على أي شيء. وكانت هذه الميزة هي جوهر المشروع الأساسي — إعطاء الناس حافزًا للبحث عن طريقة للتعامل مع "السيدة"، بل أضاف فريق العمل إنجازات خاصة بذلك. ولم ينجح الأمر حتى الآن. فقد تبيّن أن النموذج الرياضي للأوزان غير قادر على تقييم السياق البشري الحي — وهي مهمة ذات حجم يقارب حجم مشكلة عالمية.