هلوسات وفق المواصفات القياسية: لماذا لا يجوز ائتمان ChatGPT على أعمال البناء

تخيّلوا أنكم تبنون منزلًا استنادًا إلى نصائح أوسع الناس اطلاعًا في العالم، لكنه يعاني من شكل خفيف من فقدان الذاكرة ويميل إلى نسج الخيالات. هذا بالضبط ما واجهه أليكسي كريفونوسوف، صاحب شركة بناء، حين قرّر أن يفوّض ChatGPT بالمهام الروتينية. في البداية سار كل شيء على ما يرام. فقد كانت الشبكة العصبية تكتب بحيوية سيناريوهات قناة الشركة على YouTube، وتعدّ خطط المحتوى، وتنقّح التقارير الفنية. وهذا فخ كلاسيكي: حين ينجز الذكاء الاصطناعي المهام الإبداعية بامتياز، تنشأ الإيهام بأنه بالكفاءة نفسها في العلوم الدقيقة. لكن الشيطان، كالعادة، كان يكمن في التفاصيل: في معايير البناء ولوائحه.

ظهرت المشكلة حين أُوكلت إلى ChatGPT مهمة العمل مع الوثائق التنظيمية، أي قواعد СП ومعايير ГОСТ. وبالنسبة لمن هم بعيدون عن قطاع البناء، فهذه ليست كتبًا مملة، بل لوائح صارمة يرتبط كل رقم فيها بسلامة أحدهم. بدأت الشبكة العصبية تتصرف كطالب مهمل في الامتحان: إذا لم تكن تعرف الإجابة الدقيقة، اختلقتها. وكانت تفعل ذلك بثقة جعلت الخلل لا يُكتشف فورًا. فقد ولّدت الخوارزمية بنودًا غير موجودة في اللوائح، وقدّمت أرقامًا لم ترد يومًا في الوثائق الرسمية. وفي قطاع قد يؤدي فيه خطأ في حساب الحمل على عارضة إلى كارثة، يُعدّ مثل هذا «الإبداع» غير مقبول.

لماذا يحدث ذلك؟ ChatGPT نموذج لغوي دُرّب على التنبؤ بالكلمة التالية، لا على التحقق من الحقائق في قاعدة بيانات. إنه يعمل بالاحتمالات، لا بالحقيقة. وحين تطلبون منه العثور على بند محدد في ГОСТ، فهو لا «يذهب إلى المكتبة»، بل يبني إجابة تبدو معقولة إلى أقصى حد. وهنا تكمن خبث الهلوسات: إنها تبدو كالحقيقة. في التسويق لا يُعدّ ذلك حرجًا، أما في الهندسة فهو حكم بالإعدام. أدرك أليكسي أن استخدام LLM «عارٍ» في العمل المهني أشبه بلعب الروليت الروسية بمسدس محشو.

لكن فريق أليكسي لم يصب بخيبة أمل من التقنية، بل اختار طريق إنشاء أداة متخصصة. وخلال ستة أشهر طوّر «المعيار الرقمي». والفارق الرئيسي بين هذا الحل وروبوت الدردشة العادي هو استخدام تقنية RAG (التوليد المعزّز بالاسترجاع). والفكرة بسيطة: لا يُسمح للشبكة العصبية بـ«تذكّر» المعلومات من ذاكرتها، بل يُجبَر النظام على البحث عن الإجابة في قاعدة بيانات محدودة بصرامة ومحوّلة إلى متجهات (vectorized) تضم اللوائح الإنشائية الفعلية. وإذا لم تكن المعلومة موجودة في القاعدة، يقول النظام ذلك صراحة بدل أن يسترسل في الخيال. وهذا يحوّل الذكاء الاصطناعي من راوي حكايات إلى أمين مكتبة فائق السرعة.

تسلّط حالة كريفونوسوف الضوء على تحوّل جذري مهم في القطاع. فعصر الافتتان بالنماذج الشاملة يمضي. وبدأت الشركات تدرك أن المهام الحقيقية تحتاج إلى حلول رأسية متخصصة. ولا يكفي ببساطة «ربط API من OpenAI»، بل يجب معالجة البيانات يدويًا، وتنقيتها من الشوائب، وضبط مرشحات صارمة على المخرجات. بهذه الطريقة وحدها تتحول الشبكة العصبية من لعبة إلى أداة عمل. واليوم نرى أنظمة مماثلة تظهر في القانون والطب، والآن في البناء. وهذه مرحلة طبيعية في نضج التقنية.

ماذا يعني ذلك للسوق؟ أولًا، ينخفض الطلب على «مهندسي الأوامر» (prompt engineers) ليحلّ محله الطلب على معماريي البيانات القادرين على ربط LLM بالمعرفة المؤسسية. وثانيًا، ستواصل الثقة بالنماذج المفتوحة في القطاعات الحيوية التراجع. إننا ندخل عصر «الذكاء الاصطناعي الموثوق»، حيث تُقدَّر الدقة أكثر من البلاغة. وتجربة أليكسي تُظهر أنه كي يعود الذكاء الاصطناعي بالنفع، ينبغي أولًا أن نسلبه حق الإبداع حيث تسود الأرقام والقوانين.

الخلاصة: بلغت الشبكات العصبية العامة مثل ChatGPT سقفها في المهام المهنية. والمستقبل لأنظمة RAG وقواعد المعرفة شديدة التخصص. فهل أنتم مستعدون لائتمان خوارزمية لا تفرّق بين الحقيقة والاحتمال على حساب أساسات منزلكم؟