المؤلفون يختبرون على 8 أمثلة ما يبقى في النص بعد الإخفاء وقبل إرساله إلى LLM

ثمانية نصوص اصطناعية، وقائمة «متبقيات» واحدة محددة مسبقًا، ومكوّنان قابلان للتعطيل في خط المعالجة (pipeline). من هذه العناصر بُني تحليل نُشر على Habr حول التحقق من إخفاء البيانات الشخصية قبل إرسال النص إلى LLM. الطرح الأساسي: إزالة الاسم الكامل (ФИО) لا تكفي. فإذا بقي بجانبه رقم موجود في سجل مفتوح، فما زال بالإمكان تحديد هوية الشخص.

المنشور متاح حتى الآن في صيغة إعلان فقط. نعرض أدناه ما أُعلن عنه ومنطق المنهج. أما نتائج القياسات المحددة الواردة في النص الكامل فلم ننقلها إلى هنا.

القناع أخفى الاسم، لكنه لم يخفِ الشخص

المخطط المعتاد يبدو كالتالي. قبل إرسال الطلب إلى نموذج خارجي، يمر النص عبر أداة إخفاء. تستبدل هذه الأداة الأسماء الكاملة وأرقام الهواتف والعناوين بعناصر نائبة مثل [PERSON] أو [PHONE]. بعد ذلك يعدّ الفريق أن البيانات الشخصية أُزيلت.

لكن الاسم ليس وحده ما يحدد هوية الشخص. فرقم رائد الأعمال الفردي (ИП)، والرقم الضريبي (ИНН)، ورقم القضية القضائية، ولوحة تسجيل السيارة، ورقم العقد، قد تقود كلها إلى شخص بعينه عبر السجلات والفهارس المفتوحة. وإذا كانت أداة الإخفاء مضبوطة على الأسماء والهواتف، فإن هذه القيم تمر دون مساس. فيحصل النموذج وسجل الطلبات ومزوّد الخدمة الخارجي على بيانات «مجهولة الهوية» من الناحية الشكلية، لكنها ليست كذلك فعليًا.

يقترح المؤلفون تغيير السؤال. فهم لا يسألون عمّا اكتشفته أداة الإخفاء، بل يفحصون ما بقي في النص بعد عملها.

كيف يعمل الفحص

يقوم المنهج على مجموعة صغيرة لكن قابلة لإعادة الإنتاج. هذه هي معاملات التجربة كما وردت في الإعلان:

• 8 أمثلة اصطناعية، ولا توجد بيانات شخصية حقيقية في العينة؛
• قائمة متبقيات محددة مسبقًا: قيم يجب ألا تظهر في النص الناتج؛
• مقارنة مخرجات أداة الإخفاء بالقائمة، أي الفحص بحسب الواقع لا بحسب تقرير أداة الكشف؛
• تجربة مع تعطيل التطبيع (normalization)؛
• تجربة مع تعطيل التعرف على الأسماء.

لم يُختر الوضعان الأخيران عشوائيًا. فالتطبيع يوحّد شكل النص: يزيل المسافات والشرطات الزائدة في الأرقام، ويوحّد حالة الأحرف، ويختزل الصيغ المختلفة للقيمة الواحدة في صيغة واحدة. وبدونه قد تفوّت قاعدة أو قاموس رقمًا كُتب بشكل مختلف قليلًا عن القالب. أما التعرف على الأسماء فيتولى الأسماء الكاملة غير الموجودة في القواميس، إضافة إلى التصريفات وصيغ الكتابة مثل «Иванову А. П.». وعند تعطيل أحد المكوّنين يتضح أي جزء من الحماية كان يوفّره. أما حجمه بالضبط فستبيّنه الأرقام في التحليل الكامل.

ما الذي يحدّ من المنهج

ثمانية أمثلة تصلح للعرض التوضيحي واختبار الانحدار (regression test)، لكنها لا تصلح معيارًا للمقارنة (benchmark). فلا يمكن من عينة كهذه الحكم على اكتمال أداة الإخفاء ودقتها في تدفق بيانات حقيقي. والبيانات الاصطناعية عادةً أنظف من البيانات الحية. فيها أخطاء إملائية أقل، وضجيج أقل بعد OCR، وأجزاء مبتورة أقل من تفريغ المكالمات، وخلط أقل بين اللغات. كما أن القائمة المحددة مسبقًا تقيّد الفحص أيضًا: فهو لن يجد إلا ما أُدرج فيها. وأي معرّف غير متوقع لم يفكر فيه الفريق سيبقى دون ملاحظة.

وللمنهج جانب قوة أيضًا. فهو يحوّل عبارة «نحن نخفي البيانات» الفضفاضة إلى ادعاء قابل للتحقق، بقائمة محددة ونتيجة محددة.

كيف تطبّقه في مشروعك

لنقل الفكرة إلى مشروعك تلزم خمس خطوات:

• أعدّ قائمة بالمعرّفات التي تقود في مجالك إلى الشخص عبر مصادر مفتوحة، ولا تقتصر على الأسماء والهواتف؛
• ابنِ مدوّنة اصطناعية تتضمن صيغ كتابة مختلفة للرقم نفسه؛
• شغّل خط المعالجة في الوضع الكامل ومع تعطيل المكوّنات واحدًا تلو الآخر، لتفهم مساهمة كل منها؛
• أدرج فحص المتبقيات في CI، بحيث يمر عبره أي تعديل على القواعد أو تغيير في نموذج التعرف؛
• أضف إلى المدوّنة بصورة دورية أمثلة من أعطال حقيقية بعد إخفاء هويتها من حيث البنية.

يبقى الإخفاء إجراءً هندسيًا، لا رأيًا قانونيًا. أما البتّ في كفايته لمتطلبات قانون البيانات الشخصية فيجري بصورة منفصلة. لكن من دون فحص المتبقيات، تبقى أداة الإخفاء، حتى لو كانت مضبوطة بشكل صحيح، فرضية غير مُختبَرة.