بث مباشر 18.11 · الدفعة 318 نوفمبر، 19:00 بتوقيت موسكو — ورشة عملية مجانية لوكلاء الذكاء الاصطناعي · الدفعة 3 تبدأ 23.11ورشة 18 نوفمبر ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارAWS Machine Learning Blog→ المصدر

ArisGlobal تخفض فاتورة الذكاء الاصطناعي بنسبة 40% عبر تخزين البرومبت المشترك مؤقتًا بدلًا من ملف PDF

يحلل الذكاء الاصطناعي لدى ArisGlobal تقارير الآثار الجانبية للأدوية، وقد نما البرومبت المشترك لشركات الأدوية من 72 إلى 180 ألف رمز. في البداية خزّن الفريق مؤقتًا ملف PDF من 10 إلى 200 صفحة، لكنه فريد لكل حالة. أما الآن فتأتي القواعد العامة أولًا، فتُؤخذ 65% من رموز الإدخال من الكاش، وانخفضت فاتورة الاستدلال بنحو 40%. الخلاصة: خزّنوا مؤقتًا ما يتكرر، لا ما هو أكبر حجمًا.

معالج بواسطة الذكاء الاصطناعي من AWS Machine Learning Blog؛ بتحرير Hamidun News
ArisGlobal تخفض فاتورة الذكاء الاصطناعي بنسبة 40% عبر تخزين البرومبت المشترك مؤقتًا بدلًا من ملف PDF
المصدر: AWS Machine Learning Blog. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليAWS Machine Learning Blog ↗
رئيس التحرير
حقيقة رئيسية #1انخفض السعر الفعلي لرموز الإدخال بنحو 50%
حقيقة رئيسية #2انخفض زمن استجابة الطلبات المخزنة مؤقتًا حتى 25%
حقيقة رئيسية #3زاد عدد العملاء بنسبة 15% دون نمو متناسب في النفقات

إذا كنتم تبنون منتجًا قائمًا على الذكاء الاصطناعي لعدة عملاء من الشركات، فأنتم تعرفون المشكلة: يتضخم برومبت النظام مع الوقت. كل عميل يأتي بقواعده وأمثلته، والنموذج يقرؤها من جديد مع كل طلب، ويتقاضى مقابل ذلك. وصفت ArisGlobal، المزوّدة لبرمجيات قطاع الأدوية، في مدونة AWS كيف خفّضت فاتورة الاستدلال (تشغيل النموذج) الشهرية بنحو 40%. لم تقلّص الشركة حجم البرومبت، بل غيّرت ترتيب أجزائه. تستطيع Amazon Bedrock تخزين بداية الطلب مؤقتًا: إذا بدأ الطلب التالي بالنص نفسه، يُقرأ هذا الجزء من الكاش بسعر مخفّض. وكانت ArisGlobal تخزّن سابقًا مستند PDF الذي يتغير في كل حالة، وتدفع كامل السعر عن التعليمات العامة. أما الآن فتأتي 65% من رموز الإدخال من الكاش، وانخفض السعر الفعلي للإدخال بنحو 50%.

من أين جاء ارتفاع الفاتورة

يعمل محرك الذكاء الاصطناعي NavaX من ArisGlobal على Amazon Bedrock بنماذج Claude. يعالج المحرك التقارير عن التفاعلات الدوائية الضارة، وهي ملف PDF متعدد الصفحات يتراوح بين 10 و200 صفحة. يستخرج الوكيل منه نحو 130 حقلًا: بيانات المريض، والدواء المشتبه به، والتسلسل الزمني للأحداث، ومعايير الخطورة، والتصنيف التنظيمي. وينفذ ذلك عبر سلسلة من الطلبات، يتولى كل منها قسمًا من النموذج.

تتكرر في كل طلب أربع كتل: تعليمات النظام، وقواعد شركة الأدوية المعنية، ومخطط الاستخراج مع الأمثلة، والمستند نفسه. حين كان هناك عميل واحد، كان البرومبت مضغوطًا. ثم جاء عملاء جدد، ولكل منهم متطلباته: مثلًا كيفية تسجيل بداية التفاعل، والصيغة المطلوبة للاتحاد الأوروبي أو FDA أو الجهة التنظيمية اليابانية، وكيفية تقييم خطورة الحالة. وخلال 6 أشهر نما الجزء المشترك من البرومبت من 72 إلى 180 ألف رمز، أي بنسبة 150%. وارتفعت تكلفة معالجة الحالة الواحدة بأكثر من 200%، لأن هذا الجزء كان يُعالَج من جديد في كل طلب.

ما الذي تغيّر

يعمل الكاش في Bedrock بحسب البادئة: يُخزَّن مؤقتًا مقطع متصل من بداية الطلب حتى نقطة التحقق. وكل ما يأتي بعد النقطة يُدفع بالسعر الكامل. في البداية خزّن الفريق، بحكم المنطق، أكبر كتلة وهي المستند، ووضعه في المقدمة. وداخل الحالة الواحدة نجح ذلك: الطلب الأول كتب ملف PDF في الكاش، وقرأته بقية الطلبات بسعر زهيد. لكن الحالة التالية تأتي بملف PDF آخر، فيبدأ الكاش من الصفر. أما البرومبت المشترك المتضخم فكان يقع بعد نقطة التحقق، ويُدفع ثمنه كاملًا مع كل طلب.

أعاد التصميم الجديد ترتيب الكتل. تأتي أولًا البادئة المشتركة: قواعد النظام والمخطط والأمثلة. ثم نقطة التحقق، ولا يأتي بعدها إلا المستند والسؤال عن قسم محدد. وبنقطة التحقق نفسها صار الكاش يقرؤه كل الطلبات وكل الحالات وكل العملاء الذين يستخدمون هذا الوكيل. والقاعدة البسيطة من المقال: خزّنوا مؤقتًا ما يتكرر، لا ما هو أكبر. مستند من 200 صفحة كبير الحجم، لكنه بالكاد يُعاد استخدامه.

يبقى الكاش افتراضيًا 5 دقائق، وكل إصابة (cache hit) تمدّد المدة. في الحسابات النشطة تصل حالة جديدة تقريبًا كل 5 دقائق لكل عميل، ولأن العملاء عدة، تبقى البادئة المشتركة «دافئة» خلال ساعات العمل. وبعض النماذج تتيح اختيار TTL مدته ساعة واحدة.

الأرقام والقيود

بحسب بيانات ArisGlobal التي نقلتها إلى AWS، تحققت النتائج التالية عند حجم يتجاوز 19 مليار رمز شهريًا:

  • 65% من رموز الإدخال في الطلب النموذجي تُؤخذ من الكاش؛
  • السعر الفعلي للإدخال أقل بنحو 50%؛
  • إجمالي فاتورة الاستدلال الشهرية أقل بنحو 40%؛
  • انخفض زمن استجابة الطلبات المخزنة مؤقتًا حتى 25%؛
  • رُبط بالمنصة عدد أكبر من عملاء الشركات بنحو 15% دون نمو متناسب في التكاليف.

لم يتغير التوجيه داخل الاتحاد الأوروبي عبر الاستدلال عبر المناطق (cross-region inference). وفي CloudWatch تزيد القراءة من الكاش في فترات الحمل بنحو 10 أضعاف على الكتابة.

هناك تحفظات. هذه بيانات الشركة نفسها، وتنص AWS صراحةً على أن النتيجة تتوقف على بنية البرومبت وحركة الطلبات ونسبة الإصابات في الكاش. وقد تخلى الفريق عن إعادة استخدام المستند داخل الحالة، لذلك يُعالَج ملف PDF الآن بالسعر الكامل في كل طلب. ولا حاجة إلى نقطة تحقق ثانية بعد المستند، لأن هذا السجل فريد لحالة واحدة. وبالنسبة إلى Claude Sonnet 4.5، الحد الأدنى لحجم البادئة القابلة للتخزين المؤقت هو 1 024 رمز، ويُسمح في الطلب بما يصل إلى أربع نقاط تحقق.

ماذا نفعل عمليًا

ضعوا في بداية الطلب كل ما هو ثابت: أوصاف الأدوات، وتعليمات النظام، والمخططات، والأمثلة. وأبقوا بيانات العميل والمستند والسؤال بعد نقطة التحقق. احرصوا على أن تتطابق البادئة بايتًا ببايت: فالطابع الزمني أو المعرّف العشوائي أو اختلاف ترتيب الأدوات سيؤدي إلى إخفاق الكاش (cache miss). وأخيرًا، راقبوا في CloudWatch قراءة الكاش وكتابته. وإذا انخفضت نسبة الإصابات باستمرار عن مستواكم المعتاد (وهو 65% لدى ArisGlobal)، فهذا يعني أن شيئًا ما كسر البادئة.

والخلاصة للفرق التي تدير وكلاء متعددي العملاء مباشرة: قبل أن تقلّصوا البرومبت، تحققوا مما يقع قبل نقطة التحقق في الكاش. فإعادة ترتيب الكتل لا تتطلب إعادة كتابة خط المعالجة (pipeline)، وهي تعوّض كلفتها فورًا عند الأحجام الكبيرة.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول من أين جاء ارتفاع الفاتورة؟

يعمل محرك الذكاء الاصطناعي NavaX من ArisGlobal على Amazon Bedrock بنماذج Claude. يعالج المحرك التقارير عن التفاعلات الدوائية الضارة، وهي ملف PDF متعدد الصفحات يتراوح بين 10 و200 صفحة. يستخرج الوكيل منه نحو 130 حقلًا: بيانات المريض، والدواء المشتبه به، والتسلسل الزمني للأحداث، ومعايير الخطورة، والتصنيف التنظيمي. وينفذ ذلك عبر سلسلة من الطلبات، يتولى كل منها قسمًا من النموذج. تتكرر في كل طلب أربع كتل: تعليمات النظام، وقواعد شركة الأدوية المعنية، ومخطط الاستخراج مع الأمثلة، والمستند نفسه.

ما أبرز التفاصيل حول ما الذي تغيّر؟

يعمل الكاش في Bedrock بحسب البادئة: يُخزَّن مؤقتًا مقطع متصل من بداية الطلب حتى نقطة التحقق. وكل ما يأتي بعد النقطة يُدفع بالسعر الكامل. في البداية خزّن الفريق، بحكم المنطق، أكبر كتلة وهي المستند، ووضعه في المقدمة. وداخل الحالة الواحدة نجح ذلك: الطلب الأول كتب ملف PDF في الكاش، وقرأته بقية الطلبات بسعر زهيد. لكن الحالة التالية تأتي بملف PDF آخر، فيبدأ الكاش من الصفر. أما البرومبت المشترك المتضخم فكان يقع بعد نقطة التحقق، ويُدفع ثمنه كاملًا مع كل طلب. أعاد التصميم الجديد ترتيب الكتل.

ما أبرز التفاصيل حول الأرقام والقيود؟

بحسب بيانات ArisGlobal التي نقلتها إلى AWS، تحققت النتائج التالية عند حجم يتجاوز 19 مليار رمز شهريًا: 65% من رموز الإدخال في الطلب النموذجي تُؤخذ من الكاش؛ السعر الفعلي للإدخال أقل بنحو 50%؛ إجمالي فاتورة الاستدلال الشهرية أقل بنحو 40%؛ انخفض زمن استجابة الطلبات المخزنة مؤقتًا حتى 25%؛ رُبط بالمنصة عدد أكبر من عملاء الشركات بنحو 15% دون نمو متناسب في التكاليف. لم يتغير التوجيه داخل الاتحاد الأوروبي عبر الاستدلال عبر المناطق (cross-region inference).

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…