بث مباشر 18.11 · الدفعة 318 نوفمبر، 19:00 بتوقيت موسكو — ورشة عملية مجانية لوكلاء الذكاء الاصطناعي · الدفعة 3 تبدأ 23.11ورشة 18 نوفمبر ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارHabr AI→ المصدر

بوابة ZuBrIQ تخفي البطاقات وأرقام УНП عن GPT وClaude باستبدال نظائر بها، حتى أثناء البث

يريد المصرف الاستفادة من GPT وClaude، لكنه لا يستطيع إرسال رقم بطاقة العميل أو رقم УНП إليهما، وهو الرقم الضريبي للشركة في بيلاروس. تستبدل بوابة ZuBrIQ بهذه الأرقام نظائر معقولة بأرقام تحقق صحيحة، ثم تعيد الأصول في الرد. وفي البث، حين يصل النص على دفعات، تحتجز البوابة ذيل المخزن المؤقت كي لا يضيع رقم مقسوم بين دفعتين. الخلاصة: حماية البيانات أسهل حين تتركز في بوابة واحدة بدل أن تُنفَّذ في كل تطبيق.

معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
بوابة ZuBrIQ تخفي البطاقات وأرقام УНП عن GPT وClaude باستبدال نظائر بها، حتى أثناء البث
المصدر: Habr AI. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليHabr AI ↗
رئيس التحرير
حقيقة رئيسية #1تُحفظ النظائر في Redis لمدة ساعة، ويعطي رقم УНП الواحد البديل نفسه دائمًا
حقيقة رئيسية #2إذا تعطل Redis أو الكاشف، يُرفض الطلب ولا يصل إلى النموذج
حقيقة رئيسية #3لا تغطي البوابة العناوين والبريد الإلكتروني والنص الحر، وهذه تتطلب Presidio

تخيّل أن محاسبًا في أحد المصارف يلصق في محادثة مع GPT أو Claude عقدًا يتضمن رقم بطاقة العميل ورقم УНП (الرقم الضريبي للشركة في بيلاروس) واسم المدير الكامل. هذه كلها بيانات شخصية، وهي تغادر مع الطلب إلى نموذج خارجي خارج البلاد. لهذا السبب كثيرًا ما تمنع المصارف النماذج اللغوية الكبيرة (LLM) من دخول العمل أصلًا. وقد روى فريق البوابة البيلاروسية ZuBrIQ على موقع «خابر» كيف عالج هذا الخطر: لا تصل إلى النموذج الأرقام الحقيقية، بل نظائر معقولة، وتعيد البوابة الأصول في الرد. ويعمل ذلك أيضًا في وضع البث (stream)، أي حين يعيد النموذج إجابته على دفعات. هذا وصف من المؤلفين أنفسهم، ولا توجد في المادة قياسات مستقلة، لكن الحلول الهندسية المعروضة كافية لتحليلها.

لماذا نظائر وليس وسم [CARD]؟

أبسط طريقة لإخفاء البيانات هي استبدال الرقم بوسم مثل [CARD]. لكن النموذج لا يميّز بين وسمين متطابقين من هذا النوع. فلن يفهم أن البطاقات مختلفة، ولن يطابق المبالغ، ولن يُعدّ أمر دفع.

لذلك تضع البوابة بيانات من النوع والصيغة نفسيهما. فبدل رقم УНП 192628898 يرى النموذج رقم УНП آخر برقم تحقق صحيح، وبدل البطاقة رقمًا يجتاز التحقق بخوارزمية لون، وبدل IBAN قيمة تجتاز فحص mod-97 بشكل صحيح. وبدل «Иванов Иван» يصله «Егоров Игорь». وهذا بالنسبة إلى النموذج مستند عادي.

تُحفظ أزواج «الأصل ↔ النظير» في Redis لمدة ساعة واحدة. ويتحول رقم УНП نفسه عند المستخدم نفسه إلى البديل نفسه دائمًا، ولذلك يدرك النموذج أن الرسائل الثلاث تتحدث عن الطرف المقابل نفسه. والاستعادة مرتبطة بالمستخدم: فلن تكشف البوابة في الرد نظيرًا يخص مستخدمًا آخر.

تقنيًا، هذه إضافة (plugin) لـ LiteLLM، وهي صنف CustomLogger بثلاثة خطافات (hooks): واحد عند الإدخال، وآخر على الرد العادي، وثالث على الرد المبثوث. وتُفعَّل بسطر واحد في إعدادات الوكيل (proxy).

كيف تتجنب إخفاء ما لا يلزم وضياع الرقم في البث

التعبير النمطي (regex) البسيط «9 أرقام» يلتقط أي شيء: УНП أو БИК أو رقم طلب. لذلك يخضع كل تطابق لفحص. فيُحسب لرقم УНП رقم التحقق بأوزان، وللبطاقات خوارزمية لون وبادئة المصرف المُصدِر (BIN)، ولرقم ИНН الروسي خوارزمية مصلحة الضرائب الفيدرالية (ФНС)، ولـ IBAN فحص mod-97. لكن مجموع التحقق وحده لا يكفي: فالرقم العشوائي المؤلف من تسعة أرقام يجتاز فحص УНП في حالة من كل عشر تقريبًا. لذلك يُبحث بجوار الرقم عن كلمتي «УНП» أو «БИК».

إذا تداخلت الكاشفات (فحساب من 20 رقمًا يحوي في داخله «بطاقة» من 16 رقمًا)، يفوز النوع الأكثر تحديدًا بالترتيب التالي: IBAN، ثم الحساب، ثم БИК، ثم البطاقة، ثم ИНН، ثم جواز السفر، ثم الاسم الكامل. وعند التساوي يفوز التطابق الأطول. أما الرقم الذي فيه خطأ في مجموع التحقق، كأن يكون به خطأ مطبعي، فلا يُمَس إطلاقًا، كي لا «تصحّح» البوابة بيانات حقيقية ولا يجيب النموذج عن رقم آخر.

أدق جزء هو البث. فالنموذج يعيد النص على دفعات (chunks)، وقد يصل الرقم 732432413 على هيئة «7324» في دفعة و«32413» في التي تليها. وإذا استُبدلت كل دفعة على حدة، فلن يُعثر على النظير وسيرى العميل أرقامًا غريبة. يحتجز المؤلفون ذيل المخزن المؤقت إذا بدا كبداية أي نظير من نظائر هذا المستخدم: فالذيل «73» ينتظر الاستكمال. وإذا لم يكن هناك تطابق، يخرج النص فورًا. وبحسب الوصف، يبلغ التأخير دفعة أو دفعتين، ولا يحدث إلا حين يوجد في الرد ما يشبه بيانات المستخدم. أما ما تبقى في نهاية البث فيخرج في دفعة أخيرة.

أين أخطأوا وما الذي بقي خارج التغطية

لا توجد للأسماء الكاملة مجاميع تحقق، لذلك يُبحث عن الأسماء بحسب السياق: «Уважаемый» و«господин» و«клиент». وقد وصف المؤلفون بصراحة خطأين. في البداية لم يكن الكاشف يعرف الأدوار الوظيفية في الشركات، فكانت عبارة «директор Иванов Пётр Сергеевич» تصل إلى النموذج نصًّا مكشوفًا. فوُسِّعت القائمة (директор وбухгалтер وучредитель وИП وдоверенность) وأُضيف اختبار على 11 صياغة من هذا النوع. وقد أخفق الكاشف القديم فيها كلها. ثم تبيّن أن المولّد قد ينتج نظيرًا بالعائلة نفسها: فبدل «Козлов Андрей Павлович» كان يصل «Козлов Игорь Сергеевич»، أي أن العائلة الحقيقية كانت تتسرب رغم ذلك. والآن يعيد المولّد توليد أي كلمة تطابق الأصل.

وخلاصة المؤلفين: في السيناريوهات ذات الأثر القانوني، من الأفضل تغطية الأسماء بقائمة كيانات، لا بالأسلوب الاستدلالي (heuristic) وحده.

تعمل البوابة افتراضيًا بوضع fail-closed: إذا تعطل Redis أو تعطل الكاشف، يُرفض الطلب. ويُسجَّل كل تفعيل في السجل بصيغة JSON مع أنواع البيانات المكتشفة وعددها، ودون البيانات نفسها، ثم يُرسل إلى SIEM. ويمكن تفعيل Microsoft Presidio طبقة ثانية للعناوين والبريد الإلكتروني والتواريخ، شرط أن يعمل بعد الطبقة الرئيسية تمامًا كي يرى النظائر لا الأصول.

وقد ذُكرت القيود صراحة: لا تغطي هذه الطبقة أرقام УНП المحتوية على حروف، ولا العناوين، ولا عبارات مثل «جاري من الطابق الثالث»، كما لا تُعالَج الصور والملفات.

ماذا يفعل المرء عمليًا

وينبّه المؤلفون على حدة إلى خطر البوابة نفسها. ففي 21 أكتوبر 2026 ظلت نسخة LiteLLM 1.107.0 المخترقة، ومعها برنامج سرقة معلومات (infostealer) كان يسرق مفاتيح الوكيل، متاحة نحو ساعتين في PyPI وصور Docker. وكانت التبعية لدى الفريق محددة بنطاق إصدارات، أما الآن فقد ثُبّت الإصدار، وتُنسخ الصورة إلى سجل (registry) خاص بالفريق.

وبالنسبة إلى من يبني وصولًا مؤسسيًا إلى النماذج اللغوية الكبيرة، تخرج قائمة قصيرة. ينبغي تنفيذ الإخفاء في مكان واحد عند المدخل لا في كل تطبيق. والأفضل الاستبدال ببيانات معقولة لا بوسوم. ويجب اختبار البث على حدة، وأن يحجب فشل الحماية الطلب لا أن يمرّره. ويجب تثبيت إصدارات المكونات التي تمر عبرها جميع الأسرار.

القصة

أسئلة وأجوبة حول الخبر

لماذا نظائر وليس وسم [CARD]؟

أبسط طريقة لإخفاء البيانات هي استبدال الرقم بوسم مثل [CARD]. لكن النموذج لا يميّز بين وسمين متطابقين من هذا النوع. فلن يفهم أن البطاقات مختلفة، ولن يطابق المبالغ، ولن يُعدّ أمر دفع. لذلك تضع البوابة بيانات من النوع والصيغة نفسيهما. فبدل رقم УНП 192628898 يرى النموذج رقم УНП آخر برقم تحقق صحيح، وبدل البطاقة رقمًا يجتاز التحقق بخوارزمية لون، وبدل IBAN قيمة تجتاز فحص mod-97 بشكل صحيح. وبدل «Иванов Иван» يصله «Егоров Игорь». وهذا بالنسبة إلى النموذج مستند عادي. تُحفظ أزواج «الأصل ↔ النظير» في Redis لمدة ساعة واحدة.

ما أبرز التفاصيل حول كيف تتجنب إخفاء ما لا يلزم وضياع الرقم في البث؟

التعبير النمطي (regex) البسيط «9 أرقام» يلتقط أي شيء: УНП أو БИК أو رقم طلب. لذلك يخضع كل تطابق لفحص. فيُحسب لرقم УНП رقم التحقق بأوزان، وللبطاقات خوارزمية لون وبادئة المصرف المُصدِر (BIN)، ولرقم ИНН الروسي خوارزمية مصلحة الضرائب الفيدرالية (ФНС)، ولـ IBAN فحص mod-97. لكن مجموع التحقق وحده لا يكفي: فالرقم العشوائي المؤلف من تسعة أرقام يجتاز فحص УНП في حالة من كل عشر تقريبًا. لذلك يُبحث بجوار الرقم عن كلمتي «УНП» أو «БИК».

ما أبرز التفاصيل حول أين أخطأوا وما الذي بقي خارج التغطية؟

لا توجد للأسماء الكاملة مجاميع تحقق، لذلك يُبحث عن الأسماء بحسب السياق: «Уважаемый» و«господин» و«клиент». وقد وصف المؤلفون بصراحة خطأين. في البداية لم يكن الكاشف يعرف الأدوار الوظيفية في الشركات، فكانت عبارة «директор Иванов Пётр Сергеевич» تصل إلى النموذج نصًّا مكشوفًا. فوُسِّعت القائمة (директор وбухгалтер وучредитель وИП وдоверенность) وأُضيف اختبار على 11 صياغة من هذا النوع. وقد أخفق الكاشف القديم فيها كلها.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…