شغّلتُ Qwen على FPGA بـ50 دولارًا فقط: كيف يعمل مُسرّع الذكاء الاصطناعي الذي صنعته بنفسي

أردتُ تطوير معالج ذكاء اصطناعي خاص بي، فوجدتُ مشروع openTPU، وهو مُسرّع مفتوح المصدر طوّره Felipe Sens Bonetto بمساعدة وكلاء ذكاء اصطناعي. وكان السؤال بسيطًا: هل يمكن بالفعل أخذ مشروع من GitHub، وتحميله على رقاقة FPGA فعلية، وتشغيل استدلال حقيقي لنماذج اللغة الضخمة؟

اشتريتُ من AliExpress رقاقة Xilinx Kintex-7 XC7K480T بذاكرة سعتها 4 جيجابايت. وصلتها عبر منفذ PCIe بحاسوب MINISFORUM المصغّر، وبنيتُ البرنامج الثابت باستخدام Vivado، وضبطتُ برامج التشغيل ونظام PCIe DMA، وجهّزتُ البرمجيات اللازمة، ثم حمّلتُ أوزان الشبكة العصبية الحقيقية. وبدأ الاستدلال بالفعل.

ما توصلتُ إليه

نجحت جميع الأنظمة في الاختبارات. ينقل نظام PCIe DMA البيانات بنجاح. ويعمل النظام الفرعي للذاكرة بشكل كامل. وتنجح اختبارات تعليمات المعالج بنسبة 100%. ويُكشف عن رقاقة FPGA في النظام بشكل صحيح. وينفّذ نموذج اللغة عملية الاستدلال مباشرة على رقاقة FPGA.

ووفقًا للقياسات التي أجريتها على نفس اللوحة، تعمل هذه النماذج بالسرعات التالية:

• Qwen3-0.6B — 31 رمزًا في الثانية • Qwen3.5-2B — 12 رمزًا في الثانية • LFM2.5-230M — 86 رمزًا في الثانية • Qwen3.5-35B — 4 رموز في الثانية (35 مليار معامل بذاكرة سعتها 4 جيجابايت فقط)

والنتيجة الأخيرة مثيرة للاهتمام بشكل خاص: فقد تمكّنتُ من تشغيل نموذج ضخم على لوحة ذاكرتها في حدها الأدنى. ومع ذلك، فإن بنية FPGA ليست جديدة على الإطلاق.

لماذا هذا أكثر من مجرد شبكة عصبية أخرى؟

في العادة، يُنظر إلى معالج الرسومات بصفته منصة جاهزة: تشتري بطاقة رسومات، تُثبّت CUDA، ثم تُشغّل النموذج. أما فكرة openTPU فهي عكس ذلك تمامًا: لا يتعلق الأمر بتكييف العتاد مع الشبكة العصبية، بل بتصميم عتاد مخصص خاص بك لعمليات حسابية محددة.

وهذا بالضبط ما تُصمَّم من أجله رقاقات TPU، وهي معالجات مُحسَّنة لعمليات تعلّم الآلة. وكانت هذه المهمة في السابق حصرية على Google وNVIDIA، وتتطلب سنوات من التطوير. أما اليوم، فيستطيع مهندس واحد تجميع نموذج أولي واختباره خلال عطلة نهاية أسبوع. واللوحة الحالية ليست منافسة لرقاقة H100. إنها نموذج أولي عملي، وليست رقاقة ASIC مُصنّعة على نطاق واسع. لكن أصبح من الممكن الآن تجربة بنية معالج ذكاء اصطناعي خاصة، ليس نظريًا فقط، بل على عتاد حقيقي.

ما الخطوة التالية؟

أفكّر حاليًا في ذاكرة أسرع ورقاقة FPGA أقوى لتقييم بنية رقاقة استدلال خاصة بي. وتظهر هنا اتجاه لافت: فنحن نستخدم الذكاء الاصطناعي بالفعل لكتابة البرامج، والآن يُصمم الذكاء الاصطناعي المعالجات التي سيعمل عليها هو نفسه.

شكرًا لـ Felipe Sens Bonetto على مشروع openTPU. والمتابعة في الجزء الثاني، حيث سأعرض نتائج التجربة على المحطة: 8 شبكات عصبية، و165 عملية تشغيل، وأرقام حقيقية للرموز في الثانية، وتحليل للنقاط التي تُقيّد فيها ذاكرة DDR3.