الهلوسات وفقًا للمعايير: لماذا لا يمكن الثقة بـ ChatGPT للبناء

تخيل أنك تبني منزلاً بناءً على نصائح من الشخص الأكثر ثقافة في العالم، الذي يعاني، مع ذلك، من فقدان الذاكرة الخفيف ويميل إلى الخيال. هذا هو بالضبط الموقف الذي وجد نفسه فيه أليكسي كريفونوسوف، صاحب شركة بناء، عندما قرر تفويض العمل الروتيني إلى ChatGPT. في البداية، سار كل شيء بشكل مثالي. كانت الشبكة العصبية تكتب بحماس نصوصاً لقناة الشركة على يوتيوب، وتجمع خطط المحتوى، وتصقل التقارير التقنية. هذا فخ كلاسيكي: عندما تتفوق الذكاء الاصطناعي في المهام الإبداعية، فإنها تخلق وهماً بأنها جيدة بنفس القدر في العلوم الدقيقة. لكن الشيطان، كما هو معتاد، كان يختبئ في معايير البناء والقوانين.

ظهرت المشكلة عندما تم تفويض ChatGPT للتعامل مع الوثائق التنظيمية — SNiPs و GOSTs. بالنسبة لمن لا يعرفون البناء: هذه ليست مجرد كتب ممل، بل لوائح صارمة حيث يتم دفع كل رقم من خلال سلامة شخص ما. بدأت الشبكة العصبية بالتصرف كطالب مهمل أثناء الامتحان: عندما لم تعرف الإجابة الدقيقة، اختلقتها. وفعلت ذلك بثقة مثل هذا بحيث لم يتم ملاحظة الخدعة فوراً. أنتجت الخوارزمية نقاطاً تنظيمية غير موجودة وأنتجت أرقاماً لم تكن موجودة أبداً في الوثائق الرسمية. في صناعة حيث قد يؤدي الخطأ في حساب حمل الشعاع إلى كارثة، فإن مثل هذا «الإبداع» غير مقبول.

لماذا يحدث هذا؟ ChatGPT هو نموذج لغة تم تدريبه على التنبؤ بالكلمة التالية، وليس التحقق من الحقائق من قاعدة بيانات. يعمل على الاحتمالات، وليس على الحقيقة. عندما تطلب منه العثور على نقطة محددة في GOST، فإنه لا «يذهب إلى المكتبة»، بل ينشئ إجابة تبدو معقولة قدر الإمكان. هذه هي خيانة الهلوسات: تبدو وكأنها حقيقة. بالنسبة للتسويق، هذا ليس حرجاً، لكن بالنسبة للهندسة، إنها حكم إعدام. فهم أليكسي أن استخدام نموذج لغة كبير «عاري» في العمل المهني هو مثل لعب الروليت الروسية مع مسدس محمل.

بدلاً من الاستياء من التكنولوجيا، سارت فريق أليكسي في طريق إنشاء أداة متخصصة. على مدار ستة أشهر، طوروا «المعيار الرقمي». الفرق الأساسي بين هذا الحل والدردشة العادية هو استخدام تقنية RAG (Retrieval-Augmented Generation). المفهوم بسيط: لا يُسمح للشبكات العصبية «بتذكر» المعلومات من ذاكرتها. بدلاً من ذلك، يتم إجبار النظام على البحث عن الإجابات في قاعدة بيانات متجهة مقيدة بشكل صارم من معايير البناء الحقيقية. إذا لم تكن المعلومات موجودة في قاعدة البيانات، يقول النظام ذلك بدلاً من الانغماس في الخيال. هذا يحول الذكاء الاصطناعي من راوي قصص إلى أمين مكتبة عالي السرعة.

تسلط حالة كريفونوسوف الضوء على تحول تكتوني مهم في الصناعة. عصر الافتتان بالنماذج الشاملة تمر. بدأت الشركات تفهم أن المهام الحقيقية تتطلب حلولاً عمودية. لا يكفي ببساطة «توصيل API OpenAI». تحتاج إلى معالجة البيانات يدويًا، وتنظيفها من القمامة، وإعدادات مرشحات صارمة على الإخراج. فقط عندئذٍ تتحول الشبكة العصبية من لعبة إلى أداة عمل. اليوم نرى مثل هذه الأنظمة تظهر في القانون والطب والآن في البناء. هذه مرحلة طبيعية في نضج التكنولوجيا.

ماذا يعني هذا للسوق؟ أولاً، ينخفض الطلب على «مهندسي المحادثة»، مما يفسح المجال للطلب على معماريي البيانات القادرين على ربط نماذج اللغة الكبيرة بالمعرفة المؤسسية. ثانياً، سينخفض الثقة في النماذج المفتوحة في الصناعات الحساسة. نحن ندخل عصر «الذكاء الاصطناعي الموثوق»، حيث تُقدّر الدقة أكثر من الفصاحة. تظهر تجربة أليكسي: لكي يكون الذكاء الاصطناعي مفيداً، يجب عليه أولاً أن يُحرم من حق الإبداع حيث تسود الأرقام والقوانين.

النقطة الرئيسية: نماذج لغات عامة مثل ChatGPT وصلت إلى حد أقصى في المهام المهنية. المستقبل للأنظمة المعتمدة على استرجاع المعلومات والقواعس المعرفية المتخصصة بدقة. هل أنت مستعد لتفويض حساب أساس منزلك إلى خوارزمية لا تستطيع التمييز بين الحقيقة والاحتمالية؟