بعد 5 سنوات، إميلي بندر توضّح ما يعنيه مصطلح Stochastic Parrots فعلًا

في مارس 2021 نشر أربعة لسانيين وخبراء في الذكاء الاصطناعي ورقة «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?» التي أدخلت إلى التداول استعارة «الببغاء العشوائي»، أي نظام يتنبأ إحصائيًا بالكلمات دون فهم معناها. وبعد خمس سنوات، نشرت المؤلفة الرئيسية للورقة، أستاذة اللسانيات الحاسوبية في جامعة واشنطن إميلي بندر، منشورًا يفنّد أبرز المفاهيم الخاطئة عن المصطلح، وتحدثت عن ذلك في مقابلة مع IEEE Spectrum.

لماذا أثارت الورقة كل هذا الضجيج

زادت من الاهتمام بالورقة فضيحة سبقت نشرها بوقت قصير: فقد فصلت Google اثنتين من المشاركات في تأليفها، وهما الباحثتان تيمنيت غيبرو ومارغريت ميتشل. وذهبت الورقة إلى أن النماذج اللغوية الكبيرة تولّد النص عبر التنبؤ إحصائيًا بتسلسلات الكلمات المرجّحة، لا عبر استيعاب ما تقوله، ومن هنا جاءت استعارة «الببغاء» الذي يكرّر الأنماط دون فهم.

• نُشرت الورقة في مارس 2021، ولها أربعة مؤلفين.
• فصلت Google المشاركتين في التأليف تيمنيت غيبرو ومارغريت ميتشل قبيل صدور الورقة بوقت قصير.
• خلال خمس سنوات، تجاوزت الاستعارة حدود الأوساط الأكاديمية، وألهمت مشاريع مثل الروبوت «Stochastic Parrot» الذي يُحمل على الكتف، وقد أنشأه مختبر MIT Media Lab.
• بمناسبة مرور خمس سنوات على الورقة، كتبت بندر منشور «Stochastic Parrots: Frequently Unasked Questions» لتصحيح المفاهيم الخاطئة عن المصطلح.

كيف خرجت الاستعارة من الأوساط الأكاديمية

كان «الببغاء العشوائي» في الأصل مصطلحًا لدائرة ضيقة من المتخصصين في اللسانيات الحاسوبية وأخلاقيات الذكاء الاصطناعي. لكن الاستعارة تسللت خلال خمس سنوات إلى النقاش العام حول الذكاء الاصطناعي، حتى صارت نقطة انطلاق لمشاريع بعيدة كل البعد عن اللسانيات، منها الروبوت المذكور «Stochastic Parrot» من MIT Media Lab الذي سُمّي صراحةً تيمّنًا بمصطلح بندر ومؤلفي الورقة المشاركين. وهذا الاستخدام الواسع للاستعارة، وإن كان في كثير من الأحيان مبسّطًا، هو ما دفع بندر إلى كتابة منشور توضيحي بمناسبة الذكرى الخامسة للورقة.

ما المشكلة في مصطلح «الذكاء الاصطناعي»

يخصص أحد أجزاء المقابلة لمفهوم «الذكاء الاصطناعي» نفسه، الذي ترى بندر أنه يضلّل بقدر ما تضلّل التفسيرات المبسّطة لـ«الببغاء العشوائي». وتصف نفسها باحثةً تدرس كيف تعمل اللغة وكيف يتعامل الناس معها، وتدرّس في اللسانيات الحاسوبية طلابًا سيذهبون لبناء تقنيات لغوية.

«اللسانيات بمعناها الأوسع هي دراسة كيفية عمل اللغة وكيف نتعامل نحن مع اللغة. أسهم في ذلك، كما أعمل في اللسانيات الحاسوبية عبر تدريس طلاب سيبنون تقنيات لغوية»، قالت إميلي بندر في مقابلة مع IEEE

Spectrum.

تفيد هذه الصياغة في فهم نقدها الأصلي: فبندر لا تتحدث بوصفها معارِضة للتكنولوجيا عمومًا، بل بوصفها لسانية تصرّ على دقة اللغة التي تُوصف بها قدرات النماذج اللغوية، وترى أن عدم دقة هذه اللغة تحديدًا يقف وراء معظم المفاهيم الخاطئة عن ورقة 2021.

ماذا يعني ذلك

بعد خمس سنوات على النشر، باتت استعارة «الببغاء العشوائي» تعيش حياة مستقلة في الخطاب الشعبي عن الذكاء الاصطناعي، منفصلةً عن سياقها الأكاديمي الأصلي. وتحاول بندر، عبر منشورها ومقابلتها، أن تعيد إلى النقاش دقة الصياغات التي بُني عليها نقدها الأصلي للنماذج اللغوية الكبيرة.

أسئلة شائعة

ماذا يعني مصطلح «الببغاء العشوائي»؟

هي استعارة وردت في ورقة 2021: النماذج اللغوية الكبيرة تتنبأ إحصائيًا بتسلسلات الكلمات المرجّحة، لكنها لا تفهم معنى ما تقوله، أي أنها «تكرّر» اللغة كما يفعل الببغاء بدل أن تستوعبها.

لماذا تُوصف ورقة «الببغاوات العشوائية» بأنها مثيرة للجدل؟

لأن Google فصلت، قبيل نشرها في مارس 2021 بوقت قصير، اثنتين من المؤلفين الأربعة، هما تيمنيت غيبرو ومارغريت ميتشل، ما لفت إلى الورقة مزيدًا من اهتمام وسائل الإعلام والأوساط الأكاديمية.

أين شرحت إميلي بندر المفاهيم الخاطئة عن الورقة؟

كتبت منشور «Stochastic Parrots: Frequently Unasked Questions»، كما عرضت حججها على حدة في مقابلة مع IEEE Spectrum أُجريت بمناسبة مرور خمس سنوات على نشر الورقة الأصلية.