تكلفة مليون توكن على بطاقة H100 واحدة تنخفض من $18 إلى $0,80 عند 32 طلبًا
تنتج بطاقة H100 نفسها مليون توكن (أجزاء من الكلمات في ردّ النموذج) بسعر $18 تارةً وبسعر $0,80 تارةً أخرى، بحسب عدد الطلبات المتزامنة. وفق قياس نشره @the_denv، يقدّم Qwen3-32B سرعة 68 توكن/ث لمستخدم واحد و1560 توكن/ث لـ32 مستخدمًا معًا، أي أكثر بـ23 مرة. وبالنسبة إلى روبوت دردشة داخلي، هذا يعني أن البطاقة تبقى معطّلة تقريبًا ما دام شخص واحد فقط يستخدمه. احسبوا سعر التوكن عند الحمل الفعلي، لا ساعات الإيجار.
معالج بواسطة الذكاء الاصطناعي من X: @the_denv؛ بتحرير Hamidun News
تخيّلوا أنكم تشغّلون داخل شركتكم روبوت دردشة مبنيًا على النموذج المفتوح Qwen3-32B على بطاقة رسومية واحدة من نوع NVIDIA H100. التوكن (token) هو جزء من كلمة، ومن هذه الأجزاء يبني النموذج ردّه، وجرت العادة على احتساب التكلفة لكل مليون توكن. وفق القياس الذي شاركه @the_denv، حين يتعامل شخص واحد مع الروبوت تنتج البطاقة 68 توكن في الثانية (tok/s)، ويكلّف مليون توكن مُخرَج نحو $18. أما إذا كتب 32 شخصًا في الوقت نفسه، فتنتج البطاقة 1560 توكن في الثانية في المجموع، ويكلّف المليون نحو $0,80. هذا فارق بمقدار 23 مرة على العتاد نفسه. والخلاصة العملية: لا يكفي أن تقارنوا إيجار وحدات GPU بسعر الساعة، بل ينبغي أن تحسبوا سعر التوكن عند حملكم الفعلي.
ما الذي جرى قياسه تحديدًا
وفق بيانات المنشور، تنتج H100 مع Qwen3-32B نحو 68 توكن في الثانية عند مستخدم واحد. وعند 32 مستخدمًا متزامنًا ترتفع السرعة الإجمالية إلى 1560 توكن في الثانية. وقد تحقق هذا النمو بنحو 23 مرة دون تغيير العتاد.
وتنخفض تكلفة مليون توكن مُخرَج بالتناسب: من نحو $18 إلى نحو $0,80. والأرقام متسقة فيما بينها. فإذا حاولنا استنتاج سعر الساعة الذي تنتج عنه، نصل إلى نحو $4,4 لكل ساعة تشغيل للبطاقة. هذا تقدير منا، فالمنشور لا يذكر السعر، لكنه يشبه أسعار إيجار H100 المعتادة في السوق. سعر البطاقة ثابت، لكن عدد التوكنات التي يحصل عليها المرء بالمبلغ نفسه يزيد 23 مرة.
ومن المفيد أيضًا حساب ما يناله كل مستخدم. فـ1560 توكن في الثانية موزعة على 32 شخصًا تعني نحو 49 توكن في الثانية لكل منهم، مقابل 68 في الطلب المنفرد. أي أن السرعة الفردية انخفضت بأقل من الثلث، بينما ارتفع العائد الإجمالي 23 مرة.
لماذا يحدث ذلك
يسهل فهم الأمر بمثال الحافلة. لإنتاج كل توكن جديد، تقرأ وحدة GPU من الذاكرة جميع أوزان النموذج من جديد في كل مرة. وبالنسبة إلى نموذج بـ32 مليار معامل، يعني ذلك عشرات الغيغابايت في كل خطوة. ومع مستخدم واحد تقضي البطاقة معظم وقتها في انتظار وصول البيانات من الذاكرة، بينما تبقى وحدات الحوسبة معطّلة. الأمر أشبه بنقل راكب واحد في حافلة كاملة.
حين تكثر الطلبات، تدمجها خوادم مثل vLLM أو SGLang في حزمة واحدة (batch). تُقرأ الأوزان من الذاكرة مرة واحدة، ويحصل المستخدمون الـ32 جميعًا على توكن في الوقت نفسه. تسلك الحافلة المسار ذاته، لكن مقاعدها ممتلئة. ولهذا تنمو السرعة الإجمالية بصورة شبه خطية، إلى أن تبلغ البطاقة حدّ الحوسبة أو حدّ الذاكرة المخصصة لكاش السياق.
ما معنى ذلك عمليًا
أولًا: سعر التوكن في النموذج المستضاف ذاتيًا (self-hosted) ليس ثابتًا. فإذا بنيتم ميزانيتكم على قياس «طلب واحد في هدوء تام»، فقد تبالغون في تقدير النفقات عشرات المرات. وإذا حسبتم بحسب الحمل الأقصى بينما حركة الطلبات الفعلية قليلة، فستفترضون على العكس سعرًا متفائلًا أكثر من اللازم.
ثانيًا: يصبح معدل استخدام البطاقة هو المقياس الرئيسي. فبالنسبة إلى الخدمات الداخلية ذات تدفق الطلبات المنتظم، قد تكون H100 الخاصة بكم أجدى من API. أما المنتج الذي تأتيه الطلبات على شكل ذروات متباعدة، فستعمل البطاقة معظم الوقت في النمط «الغالي». وعندئذ يتفوّق غالبًا الـ API ذو الدفع لكل توكن، أو التوسّع التلقائي مع طابور انتظار.
ثالثًا: لا يقتصر التجميع في دفعات على المستخدمين. فالمهام الخلفية، مثل التلخيص والتصنيف والوسم وتشغيل التقييمات على مجموعات الاختبار، يمكن تجميعها وإرسالها دفعات. وهذه أرخص طريقة للاقتراب من أرقام النمط الأعلى.
تحفظات
هذا منشور منفرد محدود الانتشار، وليس اختبار أداء (benchmark) منشورًا. ولا يوضح كاتبه أي محرك استدلال استخدم، ولا الدقة العددية التي يعمل بها النموذج (FP16 أو FP8 أو تكميم أكثر حدّة)، ولا طول الـ prompt والرد، ولا زمن الوصول إلى أول توكن. وكل هذه المعايير تؤثر كثيرًا في النتيجة. فالسياقات الطويلة تشغل الذاكرة بالكاش، وعندها يبلغ عدد المستخدمين في الدفعة سقفه أبكر. كما أن السرعة لكل شخص ستتأثر بالإعدادات.
لذلك ينبغي التعامل مع الأرقام بوصفها رتبة مقدار، لا ضمانًا. لكن الاتجاه صحيح وتؤكده ممارسة الاستدلال: سعر التوكن تحدده درجة استخدام العتاد. وقبل الاختيار بين إيجار GPU والـ API، شغّلوا نموذجكم على نمط الطلبات المعتاد لديكم مع 1 و8 و16 و32 عميلًا متوازيًا. ثم ارسموا منحنى «السرعة لكل مستخدم مقابل تكلفة مليون توكن»، واختاروا نقطة التشغيل المناسبة بالاعتماد عليه.
- 8 نوفمبر 2026تعطل Claude لمدة 15 ساعة كشف كلفة اعتماد الشركات على مزود واحد للذكاء الاصطناعي
- 26 أكتوبر 2026a16z: التوكنات تزداد رخصًا، لكن إيجار H100 لا ينخفض — مفارقة جيفونز في الذكاء الاصطناعي
- 12 نوفمبر 2026Meta تطلق Muse Ember: تكلفة المهمة في الاختبار 0.14 دولار مقابل 0.41 دولار لنموذج Haiku
- 26 أكتوبر 2026OpenAI تطلق GPT-6.1 Terra: سعر واجهة API ينخفض إلى النصف، إلى $1 لكل مليون رمز
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول ما الذي جرى قياسه تحديدًا؟
وفق بيانات المنشور، تنتج H100 مع Qwen3-32B نحو 68 توكن في الثانية عند مستخدم واحد. وعند 32 مستخدمًا متزامنًا ترتفع السرعة الإجمالية إلى 1560 توكن في الثانية. وقد تحقق هذا النمو بنحو 23 مرة دون تغيير العتاد. وتنخفض تكلفة مليون توكن مُخرَج بالتناسب: من نحو $18 إلى نحو $0,80. والأرقام متسقة فيما بينها. فإذا حاولنا استنتاج سعر الساعة الذي تنتج عنه، نصل إلى نحو $4,4 لكل ساعة تشغيل للبطاقة. هذا تقدير منا، فالمنشور لا يذكر السعر، لكنه يشبه أسعار إيجار H100 المعتادة في السوق.
ما أبرز التفاصيل حول لماذا يحدث ذلك؟
يسهل فهم الأمر بمثال الحافلة. لإنتاج كل توكن جديد، تقرأ وحدة GPU من الذاكرة جميع أوزان النموذج من جديد في كل مرة. وبالنسبة إلى نموذج بـ32 مليار معامل، يعني ذلك عشرات الغيغابايت في كل خطوة. ومع مستخدم واحد تقضي البطاقة معظم وقتها في انتظار وصول البيانات من الذاكرة، بينما تبقى وحدات الحوسبة معطّلة. الأمر أشبه بنقل راكب واحد في حافلة كاملة. حين تكثر الطلبات، تدمجها خوادم مثل vLLM أو SGLang في حزمة واحدة (batch). تُقرأ الأوزان من الذاكرة مرة واحدة، ويحصل المستخدمون الـ32 جميعًا على توكن في الوقت نفسه.
ما أبرز التفاصيل حول ما معنى ذلك عمليًا؟
أولًا: سعر التوكن في النموذج المستضاف ذاتيًا (self-hosted) ليس ثابتًا. فإذا بنيتم ميزانيتكم على قياس «طلب واحد في هدوء تام»، فقد تبالغون في تقدير النفقات عشرات المرات. وإذا حسبتم بحسب الحمل الأقصى بينما حركة الطلبات الفعلية قليلة، فستفترضون على العكس سعرًا متفائلًا أكثر من اللازم. ثانيًا: يصبح معدل استخدام البطاقة هو المقياس الرئيسي. فبالنسبة إلى الخدمات الداخلية ذات تدفق الطلبات المنتظم، قد تكون H100 الخاصة بكم أجدى من API.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.