بث مباشر 18.11 · الدفعة 318 نوفمبر، 19:00 بتوقيت موسكو — ورشة عملية مجانية لوكلاء الذكاء الاصطناعي · الدفعة 3 تبدأ 23.11ورشة 18 نوفمبر ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارX: @the_denv→ المصدر

تكلفة مليون توكن على بطاقة H100 واحدة تنخفض من $18 إلى $0,80 عند 32 طلبًا

تنتج بطاقة H100 نفسها مليون توكن (أجزاء من الكلمات في ردّ النموذج) بسعر $18 تارةً وبسعر $0,80 تارةً أخرى، بحسب عدد الطلبات المتزامنة. وفق قياس نشره @the_denv، يقدّم Qwen3-32B سرعة 68 توكن/ث لمستخدم واحد و1560 توكن/ث لـ32 مستخدمًا معًا، أي أكثر بـ23 مرة. وبالنسبة إلى روبوت دردشة داخلي، هذا يعني أن البطاقة تبقى معطّلة تقريبًا ما دام شخص واحد فقط يستخدمه. احسبوا سعر التوكن عند الحمل الفعلي، لا ساعات الإيجار.

معالج بواسطة الذكاء الاصطناعي من X: @the_denv؛ بتحرير Hamidun News
تكلفة مليون توكن على بطاقة H100 واحدة تنخفض من $18 إلى $0,80 عند 32 طلبًا
المصدر: X: @the_denv. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليX: @the_denv ↗
رئيس التحرير
مستخدم واحد68 توكن/ث، ونحو $18 لكل مليون توكن مُخرَج
32 مستخدمًا1560 توكن/ث في المجموع، ونحو $0,80 لكل مليون
حقيقة رئيسية #3يحصل كل مستخدم من الـ32 على نحو 49 توكن/ث مقابل 68 عند الاستخدام المنفرد

تخيّلوا أنكم تشغّلون داخل شركتكم روبوت دردشة مبنيًا على النموذج المفتوح Qwen3-32B على بطاقة رسومية واحدة من نوع NVIDIA H100. التوكن (token) هو جزء من كلمة، ومن هذه الأجزاء يبني النموذج ردّه، وجرت العادة على احتساب التكلفة لكل مليون توكن. وفق القياس الذي شاركه @the_denv، حين يتعامل شخص واحد مع الروبوت تنتج البطاقة 68 توكن في الثانية (tok/s)، ويكلّف مليون توكن مُخرَج نحو $18. أما إذا كتب 32 شخصًا في الوقت نفسه، فتنتج البطاقة 1560 توكن في الثانية في المجموع، ويكلّف المليون نحو $0,80. هذا فارق بمقدار 23 مرة على العتاد نفسه. والخلاصة العملية: لا يكفي أن تقارنوا إيجار وحدات GPU بسعر الساعة، بل ينبغي أن تحسبوا سعر التوكن عند حملكم الفعلي.

ما الذي جرى قياسه تحديدًا

وفق بيانات المنشور، تنتج H100 مع Qwen3-32B نحو 68 توكن في الثانية عند مستخدم واحد. وعند 32 مستخدمًا متزامنًا ترتفع السرعة الإجمالية إلى 1560 توكن في الثانية. وقد تحقق هذا النمو بنحو 23 مرة دون تغيير العتاد.

وتنخفض تكلفة مليون توكن مُخرَج بالتناسب: من نحو $18 إلى نحو $0,80. والأرقام متسقة فيما بينها. فإذا حاولنا استنتاج سعر الساعة الذي تنتج عنه، نصل إلى نحو $4,4 لكل ساعة تشغيل للبطاقة. هذا تقدير منا، فالمنشور لا يذكر السعر، لكنه يشبه أسعار إيجار H100 المعتادة في السوق. سعر البطاقة ثابت، لكن عدد التوكنات التي يحصل عليها المرء بالمبلغ نفسه يزيد 23 مرة.

ومن المفيد أيضًا حساب ما يناله كل مستخدم. فـ1560 توكن في الثانية موزعة على 32 شخصًا تعني نحو 49 توكن في الثانية لكل منهم، مقابل 68 في الطلب المنفرد. أي أن السرعة الفردية انخفضت بأقل من الثلث، بينما ارتفع العائد الإجمالي 23 مرة.

لماذا يحدث ذلك

يسهل فهم الأمر بمثال الحافلة. لإنتاج كل توكن جديد، تقرأ وحدة GPU من الذاكرة جميع أوزان النموذج من جديد في كل مرة. وبالنسبة إلى نموذج بـ32 مليار معامل، يعني ذلك عشرات الغيغابايت في كل خطوة. ومع مستخدم واحد تقضي البطاقة معظم وقتها في انتظار وصول البيانات من الذاكرة، بينما تبقى وحدات الحوسبة معطّلة. الأمر أشبه بنقل راكب واحد في حافلة كاملة.

حين تكثر الطلبات، تدمجها خوادم مثل vLLM أو SGLang في حزمة واحدة (batch). تُقرأ الأوزان من الذاكرة مرة واحدة، ويحصل المستخدمون الـ32 جميعًا على توكن في الوقت نفسه. تسلك الحافلة المسار ذاته، لكن مقاعدها ممتلئة. ولهذا تنمو السرعة الإجمالية بصورة شبه خطية، إلى أن تبلغ البطاقة حدّ الحوسبة أو حدّ الذاكرة المخصصة لكاش السياق.

ما معنى ذلك عمليًا

أولًا: سعر التوكن في النموذج المستضاف ذاتيًا (self-hosted) ليس ثابتًا. فإذا بنيتم ميزانيتكم على قياس «طلب واحد في هدوء تام»، فقد تبالغون في تقدير النفقات عشرات المرات. وإذا حسبتم بحسب الحمل الأقصى بينما حركة الطلبات الفعلية قليلة، فستفترضون على العكس سعرًا متفائلًا أكثر من اللازم.

ثانيًا: يصبح معدل استخدام البطاقة هو المقياس الرئيسي. فبالنسبة إلى الخدمات الداخلية ذات تدفق الطلبات المنتظم، قد تكون H100 الخاصة بكم أجدى من API. أما المنتج الذي تأتيه الطلبات على شكل ذروات متباعدة، فستعمل البطاقة معظم الوقت في النمط «الغالي». وعندئذ يتفوّق غالبًا الـ API ذو الدفع لكل توكن، أو التوسّع التلقائي مع طابور انتظار.

ثالثًا: لا يقتصر التجميع في دفعات على المستخدمين. فالمهام الخلفية، مثل التلخيص والتصنيف والوسم وتشغيل التقييمات على مجموعات الاختبار، يمكن تجميعها وإرسالها دفعات. وهذه أرخص طريقة للاقتراب من أرقام النمط الأعلى.

تحفظات

هذا منشور منفرد محدود الانتشار، وليس اختبار أداء (benchmark) منشورًا. ولا يوضح كاتبه أي محرك استدلال استخدم، ولا الدقة العددية التي يعمل بها النموذج (FP16 أو FP8 أو تكميم أكثر حدّة)، ولا طول الـ prompt والرد، ولا زمن الوصول إلى أول توكن. وكل هذه المعايير تؤثر كثيرًا في النتيجة. فالسياقات الطويلة تشغل الذاكرة بالكاش، وعندها يبلغ عدد المستخدمين في الدفعة سقفه أبكر. كما أن السرعة لكل شخص ستتأثر بالإعدادات.

لذلك ينبغي التعامل مع الأرقام بوصفها رتبة مقدار، لا ضمانًا. لكن الاتجاه صحيح وتؤكده ممارسة الاستدلال: سعر التوكن تحدده درجة استخدام العتاد. وقبل الاختيار بين إيجار GPU والـ API، شغّلوا نموذجكم على نمط الطلبات المعتاد لديكم مع 1 و8 و16 و32 عميلًا متوازيًا. ثم ارسموا منحنى «السرعة لكل مستخدم مقابل تكلفة مليون توكن»، واختاروا نقطة التشغيل المناسبة بالاعتماد عليه.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول ما الذي جرى قياسه تحديدًا؟

وفق بيانات المنشور، تنتج H100 مع Qwen3-32B نحو 68 توكن في الثانية عند مستخدم واحد. وعند 32 مستخدمًا متزامنًا ترتفع السرعة الإجمالية إلى 1560 توكن في الثانية. وقد تحقق هذا النمو بنحو 23 مرة دون تغيير العتاد. وتنخفض تكلفة مليون توكن مُخرَج بالتناسب: من نحو $18 إلى نحو $0,80. والأرقام متسقة فيما بينها. فإذا حاولنا استنتاج سعر الساعة الذي تنتج عنه، نصل إلى نحو $4,4 لكل ساعة تشغيل للبطاقة. هذا تقدير منا، فالمنشور لا يذكر السعر، لكنه يشبه أسعار إيجار H100 المعتادة في السوق.

ما أبرز التفاصيل حول لماذا يحدث ذلك؟

يسهل فهم الأمر بمثال الحافلة. لإنتاج كل توكن جديد، تقرأ وحدة GPU من الذاكرة جميع أوزان النموذج من جديد في كل مرة. وبالنسبة إلى نموذج بـ32 مليار معامل، يعني ذلك عشرات الغيغابايت في كل خطوة. ومع مستخدم واحد تقضي البطاقة معظم وقتها في انتظار وصول البيانات من الذاكرة، بينما تبقى وحدات الحوسبة معطّلة. الأمر أشبه بنقل راكب واحد في حافلة كاملة. حين تكثر الطلبات، تدمجها خوادم مثل vLLM أو SGLang في حزمة واحدة (batch). تُقرأ الأوزان من الذاكرة مرة واحدة، ويحصل المستخدمون الـ32 جميعًا على توكن في الوقت نفسه.

ما أبرز التفاصيل حول ما معنى ذلك عمليًا؟

أولًا: سعر التوكن في النموذج المستضاف ذاتيًا (self-hosted) ليس ثابتًا. فإذا بنيتم ميزانيتكم على قياس «طلب واحد في هدوء تام»، فقد تبالغون في تقدير النفقات عشرات المرات. وإذا حسبتم بحسب الحمل الأقصى بينما حركة الطلبات الفعلية قليلة، فستفترضون على العكس سعرًا متفائلًا أكثر من اللازم. ثانيًا: يصبح معدل استخدام البطاقة هو المقياس الرئيسي. فبالنسبة إلى الخدمات الداخلية ذات تدفق الطلبات المنتظم، قد تكون H100 الخاصة بكم أجدى من API.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…