ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارAWS Machine Learning Blog→ المصدر

Skyflow في AgentCore Gateway يحجب البيانات الشخصية عن أدوات وكلاء الذكاء الاصطناعي

عندما يبحث وكيل ذكاء اصطناعي في الويب عن بيانات نزاع مع أحد عملاء مصرف، يصل اسم العميل ضمن الطلب إلى محرك بحث تابع لجهة خارجية. يندمج Skyflow مع Amazon Bedrock AgentCore Gateway ويستبدل الاسم برمز قابل للعكس مثل [NAME_AJbrIud]. يرى محرك البحث الرمز فقط، بينما يرى المحلل في رد الوكيل الاسم الحقيقي. لا حاجة إلى تعديل شيفرة الوكلاء والأدوات، لذا من المجدي تركيب الحماية مرة واحدة على البوابة.

معالج بواسطة الذكاء الاصطناعي من AWS Machine Learning Blog؛ بتحرير Hamidun News
Skyflow في AgentCore Gateway يحجب البيانات الشخصية عن أدوات وكلاء الذكاء الاصطناعي
المصدر: AWS Machine Learning Blog. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليAWS Machine Learning Blog ↗
رئيس التحرير
ثلاثة أوضاعحماية الأداة، وحماية النموذج، وحماية المستند
حقيقة رئيسية #2عند فشل إزالة التعريف يُحظر الاستدعاء ولا يخرج مكشوفًا
حقيقة رئيسية #3ملفات PDF والصور تحصل على رموز غير قابلة للعكس فقط

لم تعد الوكلاء الذكية تكتفي بالإجابة عن الأسئلة منذ زمن: فهي تتصفح محركات البحث وأنظمة CRM والتخزين السحابي وخوادم MCP. وكل استدعاء من هذا النوع قناة قد تتسرب عبرها بيانات شخصية. تركّز معظم وسائل الحماية المؤسسية على ما يدخل إلى النموذج وما يخرج منه، أما ما يرسله الوكيل إلى الأدوات وما يتلقاه منها فنادرًا ما ينال الاهتمام الكافي. اقترحت AWS وSkyflow سد هذه الثغرة في موضع واحد، هو بوابة Amazon Bedrock AgentCore Gateway.

أين تتسرب البيانات تحديدًا

تصف AWS ثلاثة سيناريوهات. الأول: يبني النموذج وسائط الاستدعاء من سياقه بالكامل، بما في ذلك ما لا حاجة إليه. إذا سألتَ الوكيل عن عميل، فسيصل اسمه أو رقم حسابه أو بريده الإلكتروني ضمن طلب إلى خادم خارجي يقع خارج حسابك وخارج نطاق الامتثال. الثاني: تستقر نتائج الأدوات، مثل الصفحات المستخرجة بالكشط أو بطاقات العملاء من CRM، في سياق النموذج وذاكرته وسجلات التتبع والسجلات الاعتيادية، حتى لو لم تكن المهمة بحاجة إليها. الثالث: المستندات. فمنصات التخزين مثل S3 وBox وGoogle Drive لا تعيد نصًا، بل رابطًا موقّعًا. والمرشّح الذي يفحص السلاسل النصية لا يرى سوى عنوان URL، فيمرّره، ويفتح الوكيل النسخة الأصلية من الملف.

المثال الوارد في المقالة وكيل لمصرف يحلل عملية بطاقة متنازعًا عليها. بلا حماية، يتلقى محرك البحث الطلب «Mateo Jackson dispute AnyCompany Electronics London»، أي أن اسم العميل يصل إلى طرف ثالث من أجل بحث لا يحتاج إلا إلى اسم المتجر. أما مع المُعترِض فيبدو الطلب «[NAME_AJbrIud] dispute AnyCompany Electronics London». تصل نتائج البحث كما هي، ولا يعرف محرك البحث عمّن يدور الحديث، ومع ذلك يرى المحلل في رد الوكيل الاسم الحقيقي.

كيف يعمل المُعترِض

تتيح AgentCore Gateway ربط دالة Lambda خاصة بكل استدعاء: المُعترِض الخاص بالطلبات يرى الاستدعاء قبل وصوله إلى الأداة، والمُعترِض الخاص بالردود يرى النتيجة قبل وصولها إلى الوكيل. ويمكن لأي منهما فحص المحتوى أو إعادة كتابته أو حظره. يُركَّب Skyflow في النقطتين معًا، ويكتشف عبر Skyflow Detect الأسماء والبريد الإلكتروني وأرقام الهواتف والمعرّفات الحكومية وأرقام البطاقات وتواريخ الميلاد والعناوين. وتُحفظ النسخ الأصلية في Skyflow Vault، كي تتمكن الأنظمة المصرّح لها من إعادة الرموز إلى قيمها الأصلية.

للمُعترِض ثلاثة أوضاع. «حماية الأداة»: تُزال القيم الحساسة من الوسائط وتُعاد في النتائج، وهو مناسب للبحث في الويب وواجهات API الخارجية. «حماية النموذج»: تُزال هوية المحتوى في الأوامر النصية (prompts) والسجل والنتائج قبل أن يقرأها النموذج، ولهذا يوجّه الوكيل استدعاءات النموذج عبر نقطة الاستدلال (inference endpoint) في البوابة. «حماية المستند»: يُستبدل الرابط الموقّع برابط لنسخة منقّاة يُنشئها Skyflow Detect v2 ويحفظها في منطقة مسموح بها. ولا يمر الملف نفسه عبر Lambda، لذا لا تعيق حدود حجم payload العملية.

تُحفظ السياسة على مستوى الخادم والأداة، أي الاتجاه وأنواع الكيانات ونوع الرمز (قابل للعكس أو للاستخدام مرة واحدة)، في Parameter Store، ويمكن تغييرها دون إعادة النشر. ويُحفظ مفتاح API في Secrets Manager، وتُسجَّل القرارات في CloudWatch دون القيم الأصلية. وإذا تعذّر إكمال إزالة التعريف، يُوقَف الاستدعاء ولا يخرج مكشوفًا. ولا تُجلب الملفات إلا من مواضع مسموح بها.

القيود وما يجب فعله

ثمة بعض التحفظات. فالصيغ النصية وصيغ المكتب (TXT وJSON وCSV وXML وJSONL وDOCX وXLSX وPPTX) تحتفظ بالرموز القابلة للعكس، أما ملفات PDF والصور فتُنقّى بالكامل، لكن الرموز فيها غير قابلة للعكس. والمعالجة النصية للسلاسل متاحة للعموم، بينما لا تزال إزالة التعريف من المستندات عبر Skyflow Detect v2 في مرحلة المعاينة، ولذلك يستحسن قياس زمن الاستجابة على بياناتك ومنطقتك. ويزداد زمن المعالجة مع حجم الملف، فالأفضل تحديد حد للحجم بما يناسب مستنداتك الفعلية. وأخيرًا، هذا حل من مورّد بعينه: يُباع Skyflow عبر AWS Marketplace، مع أن شيفرة المُعترِض مفتوحة المصدر بترخيص MIT في مستودع agentcore-skyflow.

نصيحة المؤلفين العملية بسيطة: اختاروا سيناريو واحدًا لوكيل يتعامل مع بيانات العملاء ويستدعي أداة خارجية واحدة على الأقل، وأعدّوا قائمة بأنواع البيانات التي يجب ألا تخرج، ثم اربطوا المُعترِض ببوابته. ابدؤوا بوضع الأدوات، ثم أضيفوا المستندات والنموذج، وراقبوا مقاييس CloudWatch أسبوعًا قبل توسيع التطبيق. أما للفرق التي لديها بالفعل عدة وكلاء على أُطر عمل مختلفة، فتكمن القيمة في أن القاعدة تُطبَّق مرة واحدة، بدلًا من تضمينها في كل وكيل على حدة.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول أين تتسرب البيانات تحديدًا؟

تصف AWS ثلاثة سيناريوهات. الأول: يبني النموذج وسائط الاستدعاء من سياقه بالكامل، بما في ذلك ما لا حاجة إليه. إذا سألتَ الوكيل عن عميل، فسيصل اسمه أو رقم حسابه أو بريده الإلكتروني ضمن طلب إلى خادم خارجي يقع خارج حسابك وخارج نطاق الامتثال. الثاني: تستقر نتائج الأدوات، مثل الصفحات المستخرجة بالكشط أو بطاقات العملاء من CRM، في سياق النموذج وذاكرته وسجلات التتبع والسجلات الاعتيادية، حتى لو لم تكن المهمة بحاجة إليها. الثالث: المستندات. فمنصات التخزين مثل S3 وBox وGoogle Drive لا تعيد نصًا، بل رابطًا موقّعًا.

ما أبرز التفاصيل حول كيف يعمل المُعترِض؟

تتيح AgentCore Gateway ربط دالة Lambda خاصة بكل استدعاء: المُعترِض الخاص بالطلبات يرى الاستدعاء قبل وصوله إلى الأداة، والمُعترِض الخاص بالردود يرى النتيجة قبل وصولها إلى الوكيل. ويمكن لأي منهما فحص المحتوى أو إعادة كتابته أو حظره. يُركَّب Skyflow في النقطتين معًا، ويكتشف عبر Skyflow Detect الأسماء والبريد الإلكتروني وأرقام الهواتف والمعرّفات الحكومية وأرقام البطاقات وتواريخ الميلاد والعناوين. وتُحفظ النسخ الأصلية في Skyflow Vault، كي تتمكن الأنظمة المصرّح لها من إعادة الرموز إلى قيمها الأصلية.

ما أبرز التفاصيل حول القيود وما يجب فعله؟

ثمة بعض التحفظات. فالصيغ النصية وصيغ المكتب (TXT وJSON وCSV وXML وJSONL وDOCX وXLSX وPPTX) تحتفظ بالرموز القابلة للعكس، أما ملفات PDF والصور فتُنقّى بالكامل، لكن الرموز فيها غير قابلة للعكس. والمعالجة النصية للسلاسل متاحة للعموم، بينما لا تزال إزالة التعريف من المستندات عبر Skyflow Detect v2 في مرحلة المعاينة، ولذلك يستحسن قياس زمن الاستجابة على بياناتك ومنطقتك. ويزداد زمن المعالجة مع حجم الملف، فالأفضل تحديد حد للحجم بما يناسب مستنداتك الفعلية.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…