العميان والفيل والذكاء الاصطناعي: لماذا يرى المهندسون والباحثون والمستخدمون فيلًا مختلفًا

تبيّن حكاية العميان الذين يتحسّسون الفيل، على نحو دقيق لم يكن متوقعًا، كيف ينظر الاختصاصيون المختلفون إلى الذكاء الاصطناعي: يدرس كلٌّ منهم جزءه الخاص ويظن أنه فهم الكل.

حكاية تستحق أن نستعيدها

يلتقي سبعة حكماء عميان بفيل. يمسك أحدهم بالساق فيقول إنها عمود. ويلمس آخر الذيل فيقول: لا، إنه حبل. ويلمس ثالث الجانب فيقول: جدار. ويمسك رابع بالخرطوم فيقول: ثعبان. لا أحد يكذب، فكلٌّ منهم يصف جزءًا حقيقيًا من الجسم. لكن كلًّا منهم مخطئ تمامًا في تصوّره للكل.

يُسقط كاتب المقال هذا المخطط على صناعة الذكاء الاصطناعي. فمهندس ML يدرس البنية المعمارية: المحوّلات (transformers) والرموز (tokens) والأوزان والنزول التدريجي (gradient descent). أما عالم البيانات فيرى مجموعات البيانات ودوال الخسارة. ويتابع مدير المنتج معدلات الاحتفاظ بالمستخدمين (retention) والتحويل (conversion). وينظر اختصاصي الأمن إلى الهلوسات والثغرات، وينظر المنظِّم إلى المخاطر. أما المستخدم فيشدّ الفيل من خرطومه ببساطة، ثم يندهش حين يتصرف الفيل بشكل لا يمكن التنبؤ به.

سؤال يبقى بلا جواب

أحدّ أطروحات المقال لا تتعلق بالتقنية، بل بتناقض جوهري في التوقعات. فإذا كان النموذج اللغوي يُدرَّب على نصوص كتبها بشر، بكل ما فيها من انفعالات وسخرية وأحكام مسبقة وتناقضات داخلية، فلماذا ننتظر منه سلوك آلية باردة محايدة؟

«نحن نعلّم النموذج أن يكون إنسانًا، ثم نندهش لأنه لا يتصرف كآلة».

وراء ذلك مشكلة تصميم حقيقية. فالصناعة تريد من الذكاء الاصطناعي في الوقت نفسه تعاطفًا في الواجهة، ولا مبالاة تامة بالمضمون. وتريد أن يفهم النموذج الفروق الدقيقة، وألّا تكون له «وجهات نظر» رغم ذلك. هذا التناقض مضمَّن في طريقة التدريب نفسها، ولا يمكن حلّه عبر RLHF ولا عبر موجّهات النظام (system prompts).

لماذا لا تقدّم المعايير الاختبارية إجابة؟

بينما تدور معظم النقاشات العامة حول MMLU وHumanEval وArena Score، يطرح المقال سؤالًا مختلفًا جذريًا: ماذا نقيس بها بالضبط؟

• هل «يفكّر» النموذج، أم يعيد إنتاج أنماط التفكير البشري؟
• هل هناك فرق عملي بين «الفهم» و«التنبؤ بالرمز التالي»؟
• وإن لم يكن هناك فرق، فهل يغيّر ذلك الطريقة التي ينبغي أن نتعامل بها مع النموذج؟
• كيف نتفق على معايير «سلوك» الذكاء الاصطناعي إذا كانت كل مهنة تدرس فيلًا مختلفًا؟
• ومن يتحمل المسؤولية أصلًا عن «الفيل كاملًا»؟

هذه ليست فلسفة أكاديمية. فالإجابات عن هذه الأسئلة تحدد تصميم المنتجات والتنظيم التشريعي وتقييم المخاطر، وكذلك الطريقة التي سنبني بها علاقتنا بهذه التقنية على المدى البعيد.

ماذا يعني ذلك

لا تفيد الحكاية بوصفها استعارة عن انعدام الكفاءة، فالحكماء ليسوا أغبياء. إنها تُظهر مشكلة بنيوية: المهن المختلفة تدرس حرفيًا جوانب مختلفة من الظاهرة نفسها، وتتحدث بلغات مختلفة. وما دامت الصناعة لم تضع لغة مشتركة للحديث عن الذكاء الاصطناعي بوصفه ظاهرة متكاملة، لا من زاوية البنية المعمارية أو مقاييس منفردة فحسب، سيبقى كل مشارك في النقاش متمسكًا بقطعته من الفيل.