مؤلف من Habr يحذر: الاستخدام الأعمى للذكاء الاصطناعي يؤدي إلى تدهور المتخصصين

أثار مؤلف هابر موضوع ما قد يؤدي إليه الاستخدام غير المدروس للذكاء الاصطناعي: برأيه، في السعي وراء الربح، يخاطر أصحاب نماذج اللغة الكبيرة بتدمير ليس فقط جودة النصوص، بل أيضاً المهارات الإنسانية.

لماذا النص المولد لا يحل محل الخبرة

المحولات التوليدية، حسب رأي المؤلف، لا تخترع شيئاً — فهي تستخدم ببساطة نماذج لغة كبيرة للتوليد، أي دمج نصوص معقولة. أولئك الذين يطبقون النصوص المولدة دون تحليل نقدي مناسب يفقدون عن غير قصد مهاراتهم، إن وجدت. وأولئك الذين لم يكونوا متخصصين مؤهلين أبداً يقعون في النشوة، ويتخيلون أنهم الآن يستطيعون حل المشاكل دون امتلاك المعرفة الضرورية.

"سيعمل هذا طالما يتولى الأشخاص المطلعون حقاً قيادة التطوير. لكن عندما

يتم استبدالهم بأولئك الذين أتقنوا التفاعل مع الذكاء الاصطناعي، لكن لا يمتلكون المهارات اللازمة للحكم بحكمة على النتائج التي تم الحصول عليها بمساعدة الذكاء الاصطناعي — هذا عندما ستحدث الكارثة"، يحذر المؤلف.

ماذا يحدث للنماذج من نسخة إلى أخرى

يلاحظ المؤلف أنه من نسخة إلى أخرى، تضيف النماذج آليات حتمية مخفية — ما يوصف غالباً بالقول "يفكر النموذج" — التي يجب أن تحسن كفاية الإجابات. لكن إلى جانب ذلك، يتم تضمين عامل إنساني أكثر فأكثر في ردود النماذج، والانحياز البشري يمكن أن يترك بصمته على النتيجة النهائية. بالنسبة للترويج التجاري للمنتج، هذا، كما يلاحظ المؤلف بسخرية، بالتأكيد جيد.

مشكلة منفصلة هي مصادر البيانات التي يتم تدريب النماذج عليها: دقتها غير مضمونة بأي شيء. مع توليد الكود، وفقاً لملاحظة المؤلف، الأمور أفضل قليلاً، لكن هنا أيضاً لا يخترع الذكاء الاصطناعي بشكل أساسي أي شيء جديد. على أقصى تقدير، إذا تم تدريب النماذج على نتائج الأجيال المعترف بها بأنها الأكثر نجاحاً، يمكن حدوث بعض التحسين أو، على العكس، تدهور النتائج النهائية.

من في الخطر

الفكرة الرئيسية للمؤلف هي أن الخطر لا يأتي من نماذج اللغة الكبيرة ذاتها، بل من كيفية استخدامها من قبل شخص بدون مهارات مناسبة. طالما تتخذ القرارات في الشركات من قبل أشخاص لديهم خبرة حقيقية، قادرين على تقييم نتائج الذكاء الاصطناعي بشكل نقدي، تبقى هذه المشكلة قابلة للإدارة. تنمو المخاطر عندما يبدأ الأشخاص ذوو الخبرة في المناصب القيادية باستبدالهم بمتخصصين يمكنهم فقط التفاعل مع الذكاء الاصطناعي لكن لا يستطيعون تقييم جودة النتيجة التي تم الحصول عليها بحكمة. في الأساس، هذا يتعلق بتغيير جيلي داخل المهنة: جيل واحد تعلم لا يزال حل المشاكل باليد والعقل، بينما الجيل التالي يخاطر بتعلم كيفية صيغة الطلبات للنموذج فقط.

ماذا تفعل حول هذا الخطر عملياً

من استدلال المؤلف، ينبثق استنتاج عملي: يجب النظر إلى نتيجة عمل الذكاء الاصطناعي كمسودة، وليس كإجابة نهائية، ويجب التحقق منها من قبل شخص قادر على تقييم المحتوى بجدارة، وليس فقط بالشكل. ينطبق هذا على كل من النصوص والأكواد البرمجية — في كلا الحالتين، يجمع النموذج ما رآه بالفعل بدلاً من إنشاء معرفة جديدة بشكل أساسي، والمسؤولية عن جودة النتيجة النهائية تبقى مع الشخص الذي يستخدمها.

ما يعنيه هذا

يحث المؤلف على عدم الخلط بين القدرة على استخدام الذكاء الاصطناعي والمهارات المهنية: تجمع الأداة النصوص المعقولة لكنها لا تحل محل القدرة على التحقق بشكل نقدي من النتيجة. طالما يبقى الأشخاص المطلعون يتحكمون، فإن الخطر قابل للإدارة — لكنه ينمو مع استبدالهم بمن أتقنوا فقط العمل مع الذكاء الاصطناعي.