ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارX: @AIQuanting→ المصدر

وكلاء البرمجة بنوا محرك LLM لشريحة FPGA على AWS: 213 توكن/ث وبتكلفة أقل بنسبة 38% من المعالج المركزي

كتب وكلاء البرمجة محركًا لتشغيل نموذج لغوي على FPGA، وهي شريحة قابلة للبرمجة من سحابة AWS، ورفعوا سرعته من 6,43 إلى 213,13 توكن/ث. وتطابقت الردود الأربعة والعشرون كلها مع المرجع على المعالج المركزي بت بت. ومع تقارب سعر الساعة ($1,98 مقابل $1,95)، تبلغ تكلفة مليون توكن $2,58 مقابل $4,18 على المعالج المركزي، أي أرخص بنسبة 38%. لكن هذا حساب لنموذج واحد، وليس تقييمًا لبيئة الإنتاج.

معالج بواسطة الذكاء الاصطناعي من X: @AIQuanting؛ بتحرير Hamidun News
وكلاء البرمجة بنوا محرك LLM لشريحة FPGA على AWS: 213 توكن/ث وبتكلفة أقل بنسبة 38% من المعالج المركزي
المصدر: X: @AIQuanting. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليX: @AIQuanting ↗
رئيس التحرير
حقيقة رئيسية #1عند سياق يقارب 8000 توكن تنخفض السرعة إلى نحو 76 توكن/ث
الكود كتبه الوكلاءيضم المشروع نحو 3 ملايين سطر
حقيقة رئيسية #3حدثت أعطال في العتاد وحالات تجمّد، ولا توجد إعادة مستقلة للتجربة حتى الآن

تخيّل أنك تحتاج إلى تشغيل نموذج لغوي بتكلفة منخفضة وبحجم كبير. الخيار المعتاد بسيط: بطاقة رسوميات أو معالج مركزي عادي. أما هذا المشروع فسلك طريقًا ثالثًا: FPGA، وهي شريحة يمكن إعادة برمجتها لتناسب مهمة واحدة محددة، ويمكن استئجارها في سحابة AWS (عبر نسخ F2). كتب وكلاء البرمجة المحرك الخاص بها، وارتفعت السرعة من 6,43 إلى 213,13 توكن في الثانية. والتوكن يعادل تقريبًا كلمة أو جزءًا منها، فالحديث إذن عن سرعة توليد النص. والأهم هنا ليس «33 ضعفًا»، بل أن النتيجة فُحصت من حيث الدقة وحُوِّلت إلى أرقام مالية.

ماذا بُني وما معنى «بت بت»

شُغِّل نموذج DeepGrove ذو الأوزان الثلاثية. في هذه الشبكة يأخذ كل وزن ثلاث قيم فقط: −1 أو 0 أو +1. وهذا يجعل الحساب بسيطًا جدًا، ويسهّل بناء عتاد متخصص لهذا الغرض. ووفق عنوان المشروع، كتب الوكلاء نحو 3 ملايين سطر من الكود للتنفيذ والتحسين.

يعطي الارتفاع من 6,43 إلى 213,13 توكن في الثانية ذلك الرقم المعروف: 33 ضعفًا. وهذه قفزة في سرعة المحرك نفسه، وليست تفوقًا على المعالج المركزي بمقدار 33 ضعفًا؛ فالفارق مع CPU أصغر بكثير (التفاصيل أدناه).

فُحصت الدقة بشكل منفصل. تعني «Bit-exact» أن الرد يطابق المرجع لا «تقريبًا»، بل حتى آخر بت. وفي الاختبار النهائي جرت ثماني محادثات من ثلاثة أدوار لكل منها، وتطابقت الردود الأربعة والعشرون كلها مع المرجع المثبَّت على المعالج المركزي. وهذا مهم عمليًا: فعند التحسين لعتاد غير تقليدي تبدأ الردود بسهولة بالانحراف قليلًا، وفي النموذج اللغوي يتحول حتى انحراف صغير بسرعة إلى نص مختلف تمامًا.

المقارنة بالمعالج المركزي بالأرقام المالية

تبلغ تكلفة ساعة تشغيل نسخة FPGA $1,98. أما النسخة الدقيقة ذات 32 مسارًا على المعالج المركزي فتكلف $1,95، أي المبلغ نفسه تقريبًا. لكن المعالج المركزي ينتج 129,5 توكن في الثانية، بينما تنتج FPGA 213,13، أي أكثر بنحو 1,65 مرة.

أعاد المؤلف حساب السعر والسرعة لكل مليون توكن مولَّد: نحو $2,58 على FPGA مقابل $4,18 على المعالج المركزي. أي توفير يقارب 38%. وهذا ليس اختبار أداء مستقلًا، بل حساب رياضي: سعر الساعة مقسوم على عدد التوكنات التي يُنتجها المحرك خلال الساعة.

أما على السياق الطويل فالصورة أكثر تواضعًا. فعندما يبلغ السياق نحو 8000 توكن، تنخفض سرعة FPGA إلى نحو 76 توكن في الثانية، واستغرق التشغيل 77,8 ثانية. وإذا كنت تتعامل مع مستندات طويلة أو سجل حوار كبير، فقد يتقلص المكسب كثيرًا. ولا يتضمن المنشور بيانات عن أداء المعالج المركزي في هذا الوضع، ولذا من المبكر استخلاص نتيجة.

القيود وما يمكن فعله

يصف المؤلف نفسه النتيجة بأنها مفيدة لهذا النموذج وهذا التنفيذ، لكنها ليست حسابًا لإجمالي تكلفة الملكية. فالسعر لا يشمل وقت التطوير والصيانة ومخاطر إعادة كتابة الكود لنموذج آخر. وحدثت أثناء الإعداد أعطال في العتاد وحالات تجمّد. ولا توجد حتى الآن إعادة مستقلة للتجربة، لذا ينبغي اعتبار الأرقام معلنة وليست مؤكدة.

ما يمكن الاستفادة منه عمليًا:

  • إذا كنت تشغّل نماذج صغيرة مكمَّمة بأحجام كبيرة، فلم تعد FPGA المستأجرة خيارًا غريبًا. لكن توفير 38% يحتاج إلى فحص على حمل العمل الخاص بك وبطول السياق الذي تستخدمه.
  • المطابقة مع مرجع مجمَّد مفيدة على أي عتاد. وإذا كان الوكيل يحسّن الاستدلال، فينبغي أن تُفحص كل خطوة بمطابقة بت بت، لا بمعيار «يبدو صحيحًا».
  • احسب المال لكل مليون توكن، لا لكل ساعة إيجار. فسعر الساعة المتقارب تقريبًا ($1,98 و$1,95) يخفي فارق السرعة الذي يصنع التوفير النهائي.

يبدو، بحسب هذا المشروع، أن الوكلاء باتوا قادرين على تولي مهام كانت تتطلب سابقًا فريقًا من مهندسي تسريع العتاد. لكن ملايين الأسطر من الكود وحالات تجمّد العتاد تذكّر بأن التحقق من النتيجة يبقى على عاتق الإنسان. والأمران اللذان يستحقان المتابعة لاحقًا: هل ستظهر إعادة مستقلة للتجربة، وهل ستتكرر النتيجة على نماذج أخرى.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول ماذا بُني وما معنى «بت بت»؟

شُغِّل نموذج DeepGrove ذو الأوزان الثلاثية. في هذه الشبكة يأخذ كل وزن ثلاث قيم فقط: −1 أو 0 أو +1. وهذا يجعل الحساب بسيطًا جدًا، ويسهّل بناء عتاد متخصص لهذا الغرض. ووفق عنوان المشروع، كتب الوكلاء نحو 3 ملايين سطر من الكود للتنفيذ والتحسين. يعطي الارتفاع من 6,43 إلى 213,13 توكن في الثانية ذلك الرقم المعروف: 33 ضعفًا. وهذه قفزة في سرعة المحرك نفسه، وليست تفوقًا على المعالج المركزي بمقدار 33 ضعفًا؛ فالفارق مع CPU أصغر بكثير (التفاصيل أدناه). فُحصت الدقة بشكل منفصل.

ما أبرز التفاصيل حول المقارنة بالمعالج المركزي بالأرقام المالية؟

تبلغ تكلفة ساعة تشغيل نسخة FPGA $1,98. أما النسخة الدقيقة ذات 32 مسارًا على المعالج المركزي فتكلف $1,95، أي المبلغ نفسه تقريبًا. لكن المعالج المركزي ينتج 129,5 توكن في الثانية، بينما تنتج FPGA 213,13، أي أكثر بنحو 1,65 مرة. أعاد المؤلف حساب السعر والسرعة لكل مليون توكن مولَّد: نحو $2,58 على FPGA مقابل $4,18 على المعالج المركزي. أي توفير يقارب 38%. وهذا ليس اختبار أداء مستقلًا، بل حساب رياضي: سعر الساعة مقسوم على عدد التوكنات التي يُنتجها المحرك خلال الساعة. أما على السياق الطويل فالصورة أكثر تواضعًا.

ما أبرز التفاصيل حول القيود وما يمكن فعله؟

يصف المؤلف نفسه النتيجة بأنها مفيدة لهذا النموذج وهذا التنفيذ، لكنها ليست حسابًا لإجمالي تكلفة الملكية. فالسعر لا يشمل وقت التطوير والصيانة ومخاطر إعادة كتابة الكود لنموذج آخر. وحدثت أثناء الإعداد أعطال في العتاد وحالات تجمّد. ولا توجد حتى الآن إعادة مستقلة للتجربة، لذا ينبغي اعتبار الأرقام معلنة وليست مؤكدة. ما يمكن الاستفادة منه عمليًا: إذا كنت تشغّل نماذج صغيرة مكمَّمة بأحجام كبيرة، فلم تعد FPGA المستأجرة خيارًا غريبًا. لكن توفير 38% يحتاج إلى فحص على حمل العمل الخاص بك وبطول السياق الذي تستخدمه.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…