إعادة كتابة البيانات تتفوق على DP-SGD في التوازن بين الخصوصية والجودة

عادةً ما تختار الفرق التي تدرّب النماذج على نصوص طبية ومالية وغيرها من النصوص الحساسة بين خيارين سيئين: إما الضبط الدقيق المباشر مع خطر التسريب، وإما تفعيل الخصوصية التفاضلية والقبول بخسارة في الجودة. وتقترح ورقة بحثية جديدة على Hugging Face Daily Papers طريقًا ثالثًا، وتختبره في تجربة محكومة. قارن المؤلفون بين تدخلات على مستوى البيانات وأخرى على مستوى التدريب، باستخدام سجلات طبية اصطناعية. وقدّم توليد البيانات الاصطناعية، الذي يعيد فيه النموذج كتابة السجلات ويستبدل التفاصيل الشخصية الفريدة، أفضل توازن بين القدرات والخصوصية.

كيف قيس التسريب: «كناريات» في السجلات الطبية

لكي تكون المقارنة عادلة، جمع الباحثون مجموعة من السجلات الطبية الاصطناعية وأدرجوا فيها «كناريات». وهي مقاطع فريدة معروفة مسبقًا، ولا يُفترض أن تظهر في البيانات العادية. فإذا أعاد النموذج إنتاجها بعد التدريب، أو أظهر ثقة مرتفعة بشكل غير طبيعي بها، فهذا يعني أنه حفظ أمثلة التدريب. ويعطي هذا النهج تقديرًا تجريبيًا للخصوصية: ليس ضمانًا نظريًا، بل خطرًا يمكن رصده. أما جودة النموذج فتُقاس على حدة، بمقاييس القدرات.

شملت المقارنة ثلاث عائلات من الأساليب:

• الضبط الدقيق المباشر على السجلات الأصلية؛
• DP-SGD، أي التدريب بالانحدار التدرجي ذي الخصوصية التفاضلية؛
• التدريب على بيانات اصطناعية مولّدة من السجلات الأصلية: أولًا بإعادة صياغة ساذجة، ثم بإعادة كتابة تراعي الخصوصية.

أين ينهار الاختيار المعتاد

كما كان متوقعًا، تصدّر الضبط الدقيق المباشر في القدرات، وكما كان متوقعًا أيضًا سجّل أكبر تسريب. فالنموذج الذي رأى البيانات كما هي يستفيد منها أكثر، ويحفظها أكثر.

يسير DP-SGD في الاتجاه المعاكس. ينخفض التسريب بشكل ملحوظ، لكن الثمن مرتفع: تتراجع القدرات بشكل كبير. وهذه مقايضة غير مريحة في المهام العملية، خاصة حين يُستخدم النموذج مع المصطلحات الطبية والتفاصيل الدقيقة. لذلك يبقى DP-SGD في الغالب معيارًا أكاديميًا مرجعيًا، ويصل إلى المنتجات بدرجة أقل.

تحتل البيانات الاصطناعية موقعًا وسطًا، وهو موقع مجدٍ إلى حد كبير. ويؤدي صياغة المهمة للنموذج الذي يعيد الكتابة دورًا حاسمًا. فإذا طُلب منه ببساطة إعادة صياغة السجل، فقد يبقى جزء من التفاصيل الفريدة بعد إعادة الصياغة، وقد يتسرّب لاحقًا. أما إذا أُضيفت تعليمات تراعي الفرادة وتستبدل التفاصيل التي تحدد الحالة بعينها تحديدًا، فإن الحماية ترتفع. ويُظهر المؤلفون أن إعادة الكتابة الخاصة تحسّن الحماية مقارنة بإعادة الصياغة الساذجة لدى نماذج مختلفة تتولى إعادة الكتابة. فالأثر غير مرتبط بنموذج واحد بعينه.

كلما كان النموذج أقوى قلّ الخطر، لكن العلاقة ليست خطية تمامًا

ثمة ملاحظة أخرى تخص النموذج الذي يعيد كتابة البيانات نفسه. فكلما زادت قدرته، انخفض في المتوسط خطر التسريب لدى النموذج المدرَّب على بياناته الاصطناعية. وهذا منطقي: فالنموذج القوي يفهم أفضل أي التفاصيل فريدة، ويستبدلها بدقة أكبر مع الحفاظ على البنية المفيدة للنص.

لكن العلاقة ليست رتيبة. فالأداء على البيانات المحجوزة (held-out fit) لا ينمو بصرامة مع قوة النموذج المعيد للكتابة. كما أن الحوسبة الإضافية في مرحلة الاستدلال تعطي مكسبًا غير مستقر. ولا يمكن ببساطة وضع نموذج استدلالي (reasoning) قوي في خط المعالجة وانتظار تحسّن الخصوصية والفائدة معًا. فسيتعيّن اختبار الإعداد على البيانات.

ماذا تفعل الفرق التي تتعامل مع بيانات حساسة

الخلاصة العملية لمن يعدّون مجموعات بيانات مؤسسية أو طبية هي التالية:

• الضبط الدقيق المباشر على السجلات الخام مبرَّر فقط حيث لا يكون التسريب حرجًا، أو حيث أُزيلت هوية أصحاب البيانات بالفعل.
• إذا كانت هناك حاجة إلى ضمان رسمي، يبقى DP-SGD خيارًا، لكن ميزانية خسارة الجودة يجب أن تُحتسب مسبقًا.
• في معظم الحالات التطبيقية، من المعقول البدء بخط معالجة «أعد الكتابة ثم درّب» مع تعليمات صريحة باستبدال التفاصيل الفريدة، لا بمجرد إعادة الصياغة.
• ينبغي اختيار النموذج الذي يعيد الكتابة بناءً على نتائج تدقيق بالـ«كناريات»، لا بحسب الحجم أو التصنيفات. ويجب فحص التسريب والجودة على العيّنة المحجوزة معًا.

الدراسة نفسها محصورة في السجلات الطبية الاصطناعية، وسيتطلب نقلها إلى نصوص سريرية حقيقية تحققًا منفصلًا. لكن المؤلفين يقدّمون أيضًا إطار تقييم قابلًا لإعادة الإنتاج، يمكن أن تُقارَن عليه نماذج وأساليب مستقبلية. وفي مجال تُناقَش فيه الخصوصية في الغالب على مستوى التصريحات، تُعدّ هذه أداة مفيدة: فهي تتيح قياس التسريب كما تُقاس الجودة منذ زمن.