هاوٍ يستخرج بمساعدة الذكاء الاصطناعي قائمة سوداء للاقتراحات من آيفون: 673 عبارة بالروسية

عندما يكتب المستخدم بنفسه عبارة بذيئة على آيفون، فلا مأخذ على أبل. لكن إذا اقترح الجزء التالي من الجملة نظام الاقتراحات، فإن مسألة المسؤولية لا تعود بهذا الوضوح. فقد يضغط المستخدم على الكلمة المقترحة بالخطأ، ثم يتعين على أحدهم أن يشرح سبب ظهور عبارة فاحشة أو متطرفة على الشاشة.

لماذا تحتاج أبل إلى قائمة سوداء

لذلك يحتوي آيفون من الداخل على قائمة بما لا يجوز أن يظهر في النص بوصفه إكمالًا للجملة أو تحويلًا للكتابة بالتمرير. ويصف ألكسندر غورني، صاحب قناة «ستارتاب دنيا» («شركة اليوم الناشئة»)، ذلك بأنه ليس رقابة بل تأمين، ولا اعتراض لديه على الفكرة نفسها. ومن منظور المنتج فالمنطق مفهوم: إذا كانت الميزة تولّد النص بنفسها، فإن من أطلقها هو المسؤول عن النتيجة. والأفضل المبالغة في الحيطة على أن يضطر المرء لاحقًا إلى تفسير سبب إكمال الهاتف الجملة بكلمة «هايل» نيابةً عن المستخدم.

ما الذي وجده الهاوي

بدأ الجزء المثير حين استخرج أحد مبرمجي «فايب كودينغ» بمساعدة الذكاء الاصطناعي العبارات المحظورة من الهاتف وصاغها في صفحة هبوط باسم Swipeblocked. والآن يمكن ببساطة فتح القائمة وقراءتها.

أما أرقام اللغة الروسية فهي: 673 عبارة في 242 مجموعة. ومنها المتوقع تمامًا والغريب:

• «что болотная» («ماذا، بولوتنايا») — إشارة إلى أحداث مضى عليها قرابة خمسة عشر عامًا؛ وتمثل نحو نصف بالمئة من جميع القيود؛
• «застрелить восьмерых коллег» («إطلاق النار على ثمانية زملاء») — ثمانية بالتحديد، أما «سبعة» و«تسعة» فغير موجودين في القائمة، كما لا وجود للأصدقاء أو الرفاق أو زملاء الدراسة. بحث المؤلف عن السبب فلم يجد شيئًا: فقد وُجد فعلًا خبر عن ثمانية قتلى، لكن وُجد أيضًا خبر عن سبعة، في سنة مختلفة فحسب؛
• «тупые американцы» («الأمريكيون الأغبياء») — أكبر مجموعة باستثناء الشتائم، إذ تضم 24 صيغة كتابة؛
• «опальный олигарх» («الأوليغارشي المغضوب عليه»)، و«ленивый журналист» («الصحفي الكسول»)، و«результат налицо» («النتيجة واضحة») غير المتوقعة.

وبحسب تقدير المؤلف، تشكل الأقسام القريبة من السياسة نحو خمسة بالمئة.

ماذا يعني ذلك عمليًا

الدرس الرئيسي لا يخص أبل، بل أي منتج فيه اقتراحات أو إكمال تلقائي أو توليد للنصوص. فبمجرد أن تبدأ واجهتك باقتراح كلمات على المستخدم، تصبح شريكًا في تأليف رسالته، وتتحول طبقة الحماية إلى جزء إلزامي من المنتج.

الملاحظة الثانية: هذه القوائم تُجمع في الغالب بردّ فعل. تقع حادثة، ويظهر خبر، ويطلب أحد المحامين أو قسم العلاقات العامة إضافة عبارة. ومن هنا تأتي الغرائب الموضعية مثل «ثمانية» دون «سبعة»: فالقاعدة تعالج حالة بعينها لا فئة من المشكلات. ومثل هذه القائمة يصعب صيانتها، ولا تعمّم جيدًا، وتولّد إنذارات كاذبة مثل «النتيجة واضحة».

الثالثة: القوائم المحظورة تصبح هي نفسها مصدرًا لمخاطر السمعة. يكفي أن يستخرجها أحدهم وينشرها لتحصل الشركة على مجموعة طرائف يُحكم بها على مطبخها الداخلي. ويختصر كاتب المنشور الأمر بأنها مثال مثالي على الغرائب التي تنتجها العمليات التجارية في الشركات الكبيرة.

القيود

ينبغي أن نتذكر أننا لا نعرف عن القائمة إلا ما ورد في المنشور وفي الموقع نفسه. لم نتحقق بشكل مستقل من اكتمال ما استُخرج ولا من حداثته ولا من الكيفية التي تستخدم بها أبل هذه العبارات. وأرقام اللغة الروسية هي ما أحصاه المؤلف، أما دوافع إدراج عبارات بعينها فتبقى تخمينات.

الخلاصة للفرق

إذا كنتم تطورون اقتراحات أو توليدًا للنصوص، فعيّنوا مسؤولًا عن القائمة السوداء وأجروا مراجعة دورية لها. سجّلوا سبب إضافة كل بند وتاريخه. جمّعوا الصيغ في مجموعات بدل تكديس عبارات منفصلة. وافترضوا منذ البداية أن أحدهم سيقرأ قائمتكم عاجلًا أم آجلًا.