بث مباشر 18.11 · الدفعة 318 نوفمبر، 19:00 بتوقيت موسكو — ورشة عملية مجانية لوكلاء الذكاء الاصطناعي · الدفعة 3 تبدأ 23.11ورشة 18 نوفمبر ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارAWS Machine Learning Blog→ المصدر

وكيل Flightscape مع ملفات JSON بحجم 23 ميغابايت يستهلك رموزًا أقل بنسبة تصل إلى 71% ويستجيب أسرع بنسبة تصل إلى 80%

عندما يستدعي وكيل الذكاء الاصطناعي أداةً فتعيد له ملف JSON بحجم عشرات الميغابايتات، يدخل الملف كاملًا في سياق النموذج، فيصبح كل سؤال لاحق أغلى وأبطأ. نقل فريق Flightscape البيانات الثقيلة إلى S3، ويمرّر إلى النموذج خلاصة قصيرة مع رابط إلى النتيجة الكاملة. على ملف JSON بحجم 23 ميغابايت انخفض استهلاك الرموز (التوكنات) بنسبة 71%، وتسارع متوسط زمن الرد من 15,4 إلى 3,1 ثانية. ويصلح الأسلوب نفسه لأي وكيل يعتمد على أدوات ثقيلة.

معالج بواسطة الذكاء الاصطناعي من AWS Machine Learning Blog؛ بتحرير Hamidun News
وكيل Flightscape مع ملفات JSON بحجم 23 ميغابايت يستهلك رموزًا أقل بنسبة تصل إلى 71% ويستجيب أسرع بنسبة تصل إلى 80%
المصدر: AWS Machine Learning Blog. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليAWS Machine Learning Blog ↗
رئيس التحرير
أثقل استعلاممن 165 إلى 9,9 ثانية، والرموز المُدخلة من 32 000 إلى 8 000
في 100 سؤال اختباري8,5 مليون رمز بدلًا من 23,6 مليون (−64%)
حقيقة رئيسية #3يتصفح النموذج النتيجة بنفسه عبر get_result_page_tool باستخدام الرابط

تخيّل أنك تتلقى مع كل سؤال توجّهه إلى زميلك ردًّا يرفق جدولًا بحجم 23 ميغابايت، وأن هذا يتكرر عشر مرات متتالية. بهذه الطريقة تقريبًا كان يعمل وكيل الذكاء الاصطناعي لدى Flightscape، المزوّد لمنصة خاصة بشركات الطيران. البيانات عبارة عن ملفات JSON (صيغة نصية منظّمة) يتجاوز حجمها 20 ميغابايت، وعدد الأدوات يزيد على أربعين، وكل أداة كانت تعيد عند استدعائها جزءها من هذه المصفوفة مباشرةً إلى سياق النموذج، أي إلى «ذاكرته العاملة».

فاستُهلكت الرموز (وحدات النص التي يُدفع ثمنها) بكميات هائلة، وتجاوز متوسط زمن الرد 15 ثانية. وبعد إعادة بناء الوكيل، على ملف اختباري بحجم 23 ميغابايت، انخفض استهلاك الرموز بنسبة 71%، وتراجع زمن الاستجابة (الوقت المستغرق لانتظار الرد) بنسبة 80%. وصف المهندسون هذه التجربة في مدونة AWS، وهي مفيدة لكل من يبني وكلاء فوق بيانات ضخمة.

ما المشكلة

يتحقق الوكيل من تكليفات الطواقم الجوية بالتدريب وفق قواعد العمل. وتتألف المدخلات من ثلاث وثائق: طلب إلى مُحسِّن الجداول، وردّه، وتقرير المُدقِّق. بُني الوكيل على LangGraph (إطار مفتوح المصدر من LangChain) ويعمل على Amazon Bedrock AgentCore، بينما تُحفظ ذاكرة الجلسة في AgentCore Memory.

من الناحية الوظيفية كان كل شيء يعمل، لكن البيانات الثقيلة كانت قريبة جدًّا من الحوار. فكل ردّ من أي أداة كان يدخل السياق كاملًا، وقد يشغل ردٌّ واحد أكثر من 80 000 رمز، وفي المحادثة متعددة الجولات كان ذلك يتراكم. وعلى المجموعات الكبيرة كان السياق ينفد قبل أن يتمكن الوكيل من إكمال إجابته.

ثلاثة أساليب أصلحت المشكلة

الأول: لا تُحفظ في ذاكرة الجلسة إلا الروابط. تُنقل الطلبات والردود وتقرير التحقق والبيانات المشتقة إلى Amazon S3 (خدمة تخزين ملفات سحابية). أما AgentCore Memory فتُكتب فيها الرسائل ومفاتيح الكائنات فقط. في بداية كل جولة تستعيد الدالة hydrate_state() الحالة العاملة، وفي نهايتها تعيد dehydrate_state() إخراج البيانات الثقيلة إلى التخزين. يُحتسب المفتاح بوصفه تجزئة SHA-256 لمحتوى الكائن، ولذلك لا تُحمَّل البيانات المتطابقة مرة ثانية. ويعمل بجانبها ذاكرة تخزين مؤقت صغيرة داخل العملية كي لا يتصل الوكيل بـ S3 مرتين خلال استدعاء واحد.

الثاني: تُسلَّم القوائم الطويلة على دفعات. إذا أعادت الأداة قائمة تتجاوز عتبة محددة، تُحفظ النتيجة الكاملة في S3. ويتلقى النموذج ردًّا مضغوطًا: العدد الإجمالي للسجلات، وعيّنة صغيرة، و«مقبضًا» (handle) هو رابط إلى النتيجة الكاملة. وإذا احتاج النموذج إلى المزيد، استدعى get_result_page_tool مع المقبض والإزاحة والحد الأقصى، وأخذ الجزء المطلوب. الأمر أشبه بأن تطلب من أمين المكتبة فهرس المحتويات ومثالين، لا أن تطلب منه إحضار الأرشيف كله إلى مكتبك.

الثالث: تُستبدل القواميس الكبيرة بوصف لها. هنا تتقدم البنية على المحتوى. في القوائم يبقى عدد العناصر وخمسة أمثلة، وفي القواميس المتداخلة يبقى عدد المفاتيح، أما القيم البسيطة فلا تتغير. وتُنقل النسخة الكاملة إلى التخزين مع مقبض. وهناك أيضًا إجراء احترازي: إذا تجاوز الرد المُسلسَل حد الأحرف رغم ذلك، يُستبدل بوصف.

ماذا تقول الأرقام

شغّل الفريق الأسئلة نفسها على مجموعة بيانات واحدة في النسخة القديمة من الوكيل والنسخة الجديدة، وقارن المقاييس في AgentCore Observability.

  • حوار من 5 أسئلة على بيانات بحجم 23 ميغابايت: انخفضت الرموز من نحو 289 500 إلى 82 900 (−71%)، وتراجع متوسط زمن التتبّع (trace) من 15,4 إلى 3,1 ثانية (نحو −80%).
  • 100 سؤال اختباري: انخفضت الرموز من 23,6 مليون إلى 8,5 مليون (−64%)، وتراجع متوسط زمن الاستجابة من 7 930 إلى 2 461 ميلي ثانية (−69%).
  • أثقل استعلام، وهو قائمة الطواقم الصحيحة في جميع فئات التحقق: انخفضت الرموز المُدخلة من نحو 32 000 إلى 8 000، والرموز المُخرجة من 2 800 إلى 477، وزمن الجولة من 165 إلى 9,9 ثانية (−94%).

ويشير المؤلفون إلى أثر جانبي أيضًا: أصبح نمو السياق متوقعًا، ولا يبطؤ الوكيل مع كل سؤال جديد في الحوارات الطويلة.

تحفظات وما يمكن الاستفادة منه

جاءت هذه الأرقام من اختبار مرجعي أجرته الشركة نفسها، على نوع واحد من البيانات. وسيعتمد المكسب لديك على بنية ردود الأدوات. وإذا كان كل ردّ صغيرًا، فلن يضيف هذا الأسلوب سوى التعقيد.

وللأسلوب ثمن أيضًا. فتظهر تبعية لـ S3 وطلبات إضافية إلى التخزين. ويقرر النموذج الآن بنفسه متى يحمّل الصفحة التالية، وقد تضلله العيّنة المأخوذة من السجلات الأولى. وفي الأسئلة التي تتطلب جميع السجلات سيزداد عدد استدعاءات أداة التصفح بالصفحات. وإضافة إلى ذلك، يرد في المادة رقمان لأثقل جولة: 9,9 ثانية في الجدول ونحو 15 ثانية على الخط الزمني للتتبّع، ولذلك ينبغي التعامل مع الأرقام المطلقة بحذر.

الخلاصة العملية بسيطة. لا تمرّر إلى النموذج ما لا يحتاج إلى قراءته كاملًا: احتفظ بالكائنات الكبيرة في الخارج، واترك في الحوار الروابط فقط، وأعِد من الأدوات فهرسًا مع أمثلة، وامنح النموذج وسيلة لقراءة الجزء المطلوب. ويكفي لذلك Python 3.12+ وboto3 وlangchain-core وlanggraph، وقد نشر المؤلفون الشيفرة في مستودع GitHub مستقل. وإذا كان وكيلك يعمل مع تقارير كبيرة أو سجلات أو بيانات مُصدَّرة من CRM، فابدأ بالقياس: كم رمزًا يذهب إلى ردود الأدوات في جولة واحدة؟ على الأرجح أن الجزء الأكبر من الفاتورة مخبّأ هناك.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول ما المشكلة؟

يتحقق الوكيل من تكليفات الطواقم الجوية بالتدريب وفق قواعد العمل. وتتألف المدخلات من ثلاث وثائق: طلب إلى مُحسِّن الجداول، وردّه، وتقرير المُدقِّق. بُني الوكيل على LangGraph (إطار مفتوح المصدر من LangChain) ويعمل على Amazon Bedrock AgentCore، بينما تُحفظ ذاكرة الجلسة في AgentCore Memory. من الناحية الوظيفية كان كل شيء يعمل، لكن البيانات الثقيلة كانت قريبة جدًّا من الحوار. فكل ردّ من أي أداة كان يدخل السياق كاملًا، وقد يشغل ردٌّ واحد أكثر من 80 000 رمز، وفي المحادثة متعددة الجولات كان ذلك يتراكم.

ما أبرز التفاصيل حول ثلاثة أساليب أصلحت المشكلة؟

الأول: لا تُحفظ في ذاكرة الجلسة إلا الروابط. تُنقل الطلبات والردود وتقرير التحقق والبيانات المشتقة إلى Amazon S3 (خدمة تخزين ملفات سحابية). أما AgentCore Memory فتُكتب فيها الرسائل ومفاتيح الكائنات فقط. في بداية كل جولة تستعيد الدالة hydrate_state() الحالة العاملة، وفي نهايتها تعيد dehydrate_state() إخراج البيانات الثقيلة إلى التخزين. يُحتسب المفتاح بوصفه تجزئة SHA-256 لمحتوى الكائن، ولذلك لا تُحمَّل البيانات المتطابقة مرة ثانية.

ما أبرز التفاصيل حول ماذا تقول الأرقام؟

شغّل الفريق الأسئلة نفسها على مجموعة بيانات واحدة في النسخة القديمة من الوكيل والنسخة الجديدة، وقارن المقاييس في AgentCore Observability. حوار من 5 أسئلة على بيانات بحجم 23 ميغابايت: انخفضت الرموز من نحو 289 500 إلى 82 900 (−71%)، وتراجع متوسط زمن التتبّع (trace) من 15,4 إلى 3,1 ثانية (نحو −80%). 100 سؤال اختباري: انخفضت الرموز من 23,6 مليون إلى 8,5 مليون (−64%)، وتراجع متوسط زمن الاستجابة من 7 930 إلى 2 461 ميلي ثانية (−69%).

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…