كاتب على Habr يحذّر: الاستخدام غير المدروس للذكاء الاصطناعي يقود إلى تدهور كفاءة المتخصصين

طرح كاتب على Habr سؤالًا عمّا قد يؤدي إليه الاستخدام غير المدروس للذكاء الاصطناعي. ويرى أن الجهات المالكة للنماذج اللغوية الكبيرة، في سعيها وراء الربح، قد لا تضرّ بجودة النصوص وحدها، بل تضرّ كذلك بالكفاءة البشرية.

لماذا لا يغني النص المولَّد عن الخبرة

يرى الكاتب أن المحوّلات التوليدية لا تخترع شيئًا، بل تستخدم النماذج اللغوية الكبيرة لتوليد النصوص، أي لدمج نصوص تبدو مقنعة. ومن يعتمد على النصوص المولَّدة دون تحليل نقدي كافٍ يفقد كفاءته من غير أن يشعر، إن كانت لديه كفاءة أصلًا. أما من لم يكن يومًا متخصصًا مؤهلًا، فيقع في نشوة زائفة، ويتوهّم أنه صار قادرًا على حل المسائل دون أن يملك المعرفة اللازمة.

«سيستمر هذا الوضع ما دام أصحاب المعرفة الحقيقية هم من يمسكون بزمام

التطوير. أما حين يحلّ محلّهم من أتقنوا التعامل مع الذكاء الاصطناعي لكنهم يفتقرون إلى الكفاءة اللازمة للتقييم الرصين لنتائجه، فعندها ستقع الكارثة»، يحذّر الكاتب.

ما الذي يحدث للنماذج من إصدار إلى آخر

يشير الكاتب إلى أن كل إصدار جديد يضيف إلى النماذج آليات حتمية خفية، وهي ما يوصف غالبًا بعبارة «النموذج يفكّر»، ومن المفترض أن تحسّن ملاءمة الإجابات. لكن إجابات النماذج تحمل معها قدرًا متزايدًا من العامل البشري، والتحيّز البشري قد يترك أثره في النتيجة النهائية. ويرى الكاتب، بشيء من السخرية، أن هذا أمر جيد بلا شك للترويج التجاري للمنتج.

وهناك مشكلة مستقلة تتعلق بمصادر البيانات التي تتدرّب عليها النماذج، إذ لا شيء يضمن موثوقيتها. ويلاحظ الكاتب أن توليد الشيفرة البرمجية أفضل حالًا إلى حد ما، لكن الذكاء الاصطناعي لا يبتكر هنا أيضًا شيئًا جديدًا من حيث المبدأ. وأقصى ما قد يحدث إذا دُرّبت النماذج على نتائج التوليد التي عُدّت الأنجح هو تحسّن طفيف في النتائج النهائية، أو تدهورها على العكس.

من هم المعرَّضون للخطر

الفكرة المحورية عند الكاتب أن الخطر لا يأتي من النماذج اللغوية الكبيرة نفسها، بل من طريقة استخدام شخص يفتقر إلى الكفاءة اللازمة لها. وما دامت القرارات في الشركات يتخذها أشخاص يملكون خبرة حقيقية وقادرون على تقييم عمل الذكاء الاصطناعي تقييمًا نقديًا، تبقى هذه المشكلة قابلة للإدارة. ويتفاقم الخطر حين يبدأ استبدال هؤلاء في المناصب القيادية بمتخصصين لا يجيدون سوى التعامل مع الذكاء الاصطناعي، ولا يستطيعون تقييم جودة النتيجة تقييمًا رصينًا. وفي جوهر الأمر، يدور الحديث عن تعاقب أجيال داخل المهنة: جيل تعلّم حل المسائل بيديه وعقله، وجيل لاحق قد لا يتعلّم سوى صياغة الطلبات الموجَّهة إلى النموذج.

ماذا نفعل مع هذا الخطر عمليًا

يستنتج من طرح الكاتب خلاصة عملية: ينبغي التعامل مع ناتج الذكاء الاصطناعي بوصفه مسودة لا إجابة نهائية، وأن يراجعه شخص قادر على تقييم مضمونه من حيث الجوهر، لا من حيث الشكل فقط. وينطبق ذلك على النصوص والشيفرة البرمجية معًا، ففي الحالتين يدمج النموذج ما سبق أن رآه، ولا ينتج معرفة جديدة من حيث المبدأ، وتبقى المسؤولية عن جودة النتيجة النهائية على الإنسان الذي يستخدمها.

ماذا يعني هذا

يدعو الكاتب إلى عدم الخلط بين القدرة على استخدام الذكاء الاصطناعي والكفاءة المهنية: فالأداة تدمج نصوصًا تبدو مقنعة، لكنها لا تغني عن القدرة على التحقق النقدي من النتيجة. وما دام أصحاب المعرفة هم من يمسكون بالدفة، يبقى الخطر قابلًا للإدارة، لكنه يتزايد كلما حلّ محلّهم من أتقنوا التعامل مع الذكاء الاصطناعي فقط.