مفارقة: هلوسات في أبحاث NeurIPS، أبرز مؤتمرات الذكاء الاصطناعي

في عصر الذكاء الاصطناعي التوليدي، لا تَسلم حتى أرقى المؤتمرات العلمية من هذه المشكلات. فقد كشفت دراسة أجرتها شركة GPTZero الناشئة عن حالات «هلوسة»، أي استشهادات وهمية مولّدة بالذكاء الاصطناعي، في أبحاث علمية قُدّمت إلى NeurIPS، أحد أبرز المؤتمرات في مجال الذكاء الاصطناعي. والمفارقة واضحة: فالمؤتمر المخصص لأحدث إنجازات الذكاء الاصطناعي وقع هو نفسه ضحية لآثاره الجانبية.

وأجرت GPTZero، المتخصصة في اكتشاف النصوص المولّدة بالذكاء الاصطناعي، تحليلًا لمجموعة من الأوراق البحثية المقبولة في NeurIPS. وجاءت النتائج مقلقة: ففي عدد من الأبحاث عُثر على إحالات إلى مصادر غير موجودة، يبدو أن نماذج لغوية كبيرة (LLM) هي التي أنشأتها. ولا يقتصر ذلك على التشكيك في جودة أوراق بعينها، بل يمتد إلى منظومة التقييم العلمي بأكملها.

ومشكلة الهلوسة في النماذج اللغوية الكبيرة معروفة جيدًا. فالنماذج المدرَّبة على كميات هائلة من البيانات «تختلق» أحيانًا وقائع أو استشهادات لسدّ ثغرات في معرفتها أو لجعل النص أكثر إقناعًا. وفي سياق الأبحاث العلمية، قد تترتب على ذلك عواقب خطيرة، إذ يقوّض الثقة بالدراسات ويصعّب التحقق من نتائجها.

ويثير اكتشاف استشهادات مولّدة بالذكاء الاصطناعي في أوراق NeurIPS عدة قضايا مهمة. أولًا، يدل على الحاجة إلى تدقيق أشد في الأبحاث العلمية للتحقق من استخدام الذكاء الاصطناعي. فعلى المحكّمين أن يكونوا أكثر انتباهًا للتفاصيل وأن يعيدوا التحقق من المصادر المستشهد بها. ثانيًا، يؤكد أهمية تطوير أدوات لاكتشاف النصوص المولّدة بالذكاء الاصطناعي وإدخالها في عملية النشر العلمي.

علاوة على ذلك، تدفعنا هذه الواقعة إلى التفكير في مستقبل البحث العلمي في عصر الذكاء الاصطناعي. فمن جهة، يمكن أن يصبح الذكاء الاصطناعي أداة قوية للعلماء، يساعدهم على تحليل البيانات وتوليد الفرضيات وكتابة الأبحاث. ومن جهة أخرى، لا بد من أخذ المخاطر المرتبطة باستخدامه في الحسبان، واتخاذ إجراءات لمنع إساءة الاستخدام.

وفي المحصلة، يمثل اكتشاف الهلوسات في أوراق NeurIPS جرس إنذار. فهو يذكّرنا بأن الذكاء الاصطناعي مجرد أداة، وأن استخدامه يتطلب المسؤولية والتفكير النقدي. وعلى المجتمع العلمي أن يضع قواعد وإجراءات واضحة للتعامل مع الذكاء الاصطناعي، بما يضمن جودة الأبحاث العلمية وموثوقيتها.