شيري تيركل تحذّر: يصدّق الناس أن الذكاء الاصطناعي يهتم بهم منذ الردود الأولى

قبل ستين عامًا، دفع برنامج ELIZA من MIT، الذي كان يدرج كلمات المستخدم في عبارات جاهزة، الناسَ إلى التحدث معه كما يتحدثون مع معالج نفسي. واليوم تصوغ شيري تيركل، أستاذة MIT التي تدرس علاقة البشر بالتكنولوجيا منذ ثمانينيات القرن الماضي، الخلاصة بحدّة أكبر. ينقل TechCrunch عنها قولها: «حين ينجرف بنا حتى أبسط تبادل للعبارات مع مصنوع علائقي، نعتقد أنه يهتم بنا. ونحن مهيّؤون لأن نبادله الاهتمام».

لا يتضمن هذا الاقتباس توقعًا ولا تقييمًا لنموذج بعينه. إنه ملاحظة عنا نحن، ولهذا السبب تحديدًا تهمّ الصناعة.

تأثير أقدم من الشبكات العصبية نفسها

تستخدم تيركل مصطلح «المصنوع العلائقي» للإشارة إلى الأشياء التي تصطنع الاهتمام والانخراط، من الحيوانات الرقمية الأليفة والروبوتات الاجتماعية إلى روبوتات الدردشة. وقامت أعمالها المبكرة وكتابها «Alone Together» (2011) على أن الناس يتعلقون بهذه الأشياء حتى حين يدركون تمامًا أنهم أمام آلة.

وأول من أظهر ذلك هو مبتكر ELIZA جوزيف فايزنباوم. لم يكن برنامجه يفهم شيئًا: كان يبحث عن كلمات مفتاحية ويعيدها في صيغة سؤال. ومع ذلك شارك المستخدمون معه أمورًا شخصية، وأصبح فايزنباوم نفسه لاحقًا من أشد المنتقدين لهذا الموقف من الآلات. ومنذ ذلك الحين يُعرف التأثير باسم «تأثير ELIZA».

أبرز الوقائع التي تقوم عليها الحجة:

• عام 1966: ELIZA، حوار قائم على قوالب جاهزة دون أي فهم، ومع ذلك كان تفاعل الناس معه إنسانيًا بالفعل.
• عام 2011: «Alone Together»، الذي تصف فيه تيركل التعلق بالروبوتات والرفقاء الرقميين.
• عتبة الدخول: بحسب صياغتها، يكفي تبادل «أبسط» العبارات.
• الآلية: الاعتقاد بأننا «محبوبون» يطلق من جانبنا اهتمامًا مقابلًا.

لماذا أصبح الأمر أكثر حدّة اليوم

كان لدى ELIZA بضع عشرات من القواعد. أما النماذج اللغوية الحديثة فلديها طلاقة في الكلام، وذاكرة للمحادثات السابقة، وصوت ونبرة تتكيّفان مع المحاور. وإذا كان هذا التفاعل قد ظهر مع قوالب الستينيات، فمن الصعب توقّع أن يضعف أمام نظام يجيب بتماسك ودفء في أي ساعة من ليل أو نهار.

يطرح عنوان TechCrunch السؤال من شقين: «لا نستطيع ألا نتعامل» و«هل ينبغي». الشق الأول، بحسب تيركل، شبه بيولوجي: نحن مهيّؤون للاستجابة لأي إشارة اهتمام. أما الثاني فيتعلق بمسؤولية من يبنون المنتجات. فالآلة تصطنع التعاطف دون أن تشعر بشيء، بينما يردّ المستخدم على هذه المحاكاة بمشاعر حقيقية ووقت حقيقي. والخلل هنا بنيوي، ويصبّ في مصلحة من يقيس مستوى الانخراط.

لا يتضمن المقتطف الأصلي أرقامًا عن خدمات بعينها، لذلك يبقى النقاش على مستوى المبادئ. لكن المبدأ واضح: كلما كانت محاكاة الاهتمام أكثر إقناعًا، ارتفعت كلفة الخطأ في التصميم.

ماذا على الفرق والمستخدمين أن يفعلوا

بالنسبة لفرق المنتجات، الخلاصة العملية هي التالية: ينبغي اعتبار تعلّق المستخدمين أثرًا جانبيًا يحتاج إلى إدارة، لا مقياسًا للنمو. ومن المفيد أن تُحدَّد مسبقًا المواضع التي يقول فيها المساعد «أفهمك» و«يؤسفني ذلك»، والمواضع التي يكون من الأكثر صدقًا أن يقول فيها إنه نموذج. وتستحق السيناريوهات المتعلقة بالمراهقين والوحيدين والأشخاص الضعفاء اهتمامًا خاصًا، لأن محاكاة الاهتمام تؤثر فيهم أكثر من غيرهم.

أما نصيحة المستخدمين فأكثر تواضعًا. إذا شعرت بعد محادثة مع روبوت بأنك قد فُهمت، فهذا عمل طبيعي للنفس، وليس دليلًا على أن الفهم حدث فعلًا. ومن المفيد أن تسأل نفسك بين حين وآخر: من في هذه العلاقة ينال قدرًا أكبر من وقتك واهتمامك؟ وهل يوجد حولك أشخاص حقيقيون يستطيعون أن يبادلوك الاهتمام؟