الذكاء الاصطناعي في الشركات ينتج وثائق سامّة وفقاعة جديدة

قد لا يقتصر أثر الاستخدام الواسع للذكاء الاصطناعي في العمل الإداري والخبراتي على رفع الكفاءة، بل قد يضيف طبقة جديدة من المخاطر المنهجية. فالمشكلة أن الوثائق المؤسسية تبدو مقنعة بشكل متزايد حتى حين تكون الأخطاء والتناقضات وهلوسات النماذج قد تراكمت في داخلها.

لماذا هي فقاعة

يقوم تشبيه هذه الظاهرة بأزمة الرهن العقاري عام 2008 على فكرة بسيطة: ظلّ السوق يثق طويلاً بجودة الأصول لأنها كانت مغلّفة بشكل جذاب وتجتاز الفحوص شكلياً. وقد يحدث أمر مشابه مع الوثائق التي ينشئها الذكاء الاصطناعي أو يساعد في تجميعها. فالمديرون والمستثمرون والخبراء يرون لوائح وتقارير وسياسات وأوصاف عمليات منسّقة، ويعدّونها انعكاساً موثوقاً للواقع. لكن النظام الظاهري لا يعني أن المعارف الأصلية كانت دقيقة وكاملة ومتسقة فيما بينها.

ويزيد الخطر أن الوثائق معروضة أمام الجميع وتُعامَل بوصفها حصيلة عمل المؤسسة. فإذا كُتب النص بلغة سليمة وكان منظّماً ويجيب عن الطلب بسرعة، فلن يجد القارئ أي سبب تقريباً للشك. والنتيجة أن الثقة تنتقل من المضمون إلى الشكل. وهكذا تنشأ فقاعة إدارية: تُتخذ القرارات استناداً إلى مواد تبدو أفضل من البيانات والخبرة والعمليات التي خرجت منها.

كيف تنشأ السمّية

الوثيقة السامّة ليست بالضرورة وثيقة رديئة أو غير مقروءة. بل على العكس، قد تكون منطقية ومرتّبة ومقنعة، وتحمل في الوقت نفسه عيوباً خفية: أخطاء واقعية، وتناقضات داخلية، واستبدالاً للمصطلحات، وصياغات واثقة في مواضع لا تملك فيها الشركة معلومات مؤكدة.

يسرّع الذكاء الاصطناعي إنتاج مثل هذه النصوص أضعافاً. فإذا كانت التناقضات تتراكم في السابق على مدى أسابيع، فقد تتكاثر الآن خلال سبرينت واحد، لتنتقل من الملاحظات إلى التعليمات ثم إلى القرارات الرسمية.

«قد تكون الوثيقة سامّة: تبدو منطقية، لكنها تحتوي على أخطاء وتناقضات

وهلوسات من الذكاء الاصطناعي».

عملياً، لا تظهر السمّية في الغالب على شكل عطل واحد مدوٍّ، بل في سلسلة من التشوهات الصغيرة المعقولة. يتخذ قسم ما مسودة من الذكاء الاصطناعي أساساً، وينسخ قسم ثانٍ صياغاتها إلى لائحة، ويضمّها قسم ثالث إلى تقرير للإدارة. بعد ذلك لا يبدو الخطأ عطلاً في النموذج، بل واقعة مؤسسية مؤكدة.

وفيما يلي الإشارات الأكثر خطورة على الفرق التي تستخدم الذكاء الاصطناعي بكثافة في إدارة الوثائق:

• تصف لائحة ما عملية واحدة، بينما تفرض وثيقة مجاورة إجراءات معاكسة لها.
• تظهر في التقرير أرقام دقيقة دون مصدر واضح ودون مالك للبيانات.
• يكرر الذكاء الاصطناعي أخطاء قديمة من قاعدة المعرفة ويحوّلها إلى «معيار».
• تبدو الصياغات واثقة، مع أنها تتضمن افتراضات كثيرة واستنتاجات لم يجرِ التحقق منها.

ما الذي ينبغي للشركات التحقق منه

نادراً ما نجد متطلباً رسمياً بصيغة «يجب ألا تتناقض الوثائق فيما بينها» بوصفه بنداً مستقلاً، لكن هذه الفكرة مضمّنة منذ زمن في أنظمة إدارة الجودة السليمة. فمنطق ISO 9001 وITIL وBPM يقتضي أن تكون وثائق العمليات متسقة ومحدّثة وقابلة للتحقق. وإلا فقدت المؤسسة قدرتها على الإدارة: يتلقى الموظفون تعليمات مختلفة، ويستند التدقيق إلى نسخ متضاربة من «الحقيقة»، ولا يعرف المديرون أين الخطأ، أفي التنفيذ أم في الورقة نفسها.

لذلك لم يعد كافياً أن تفحص الشركات أسلوب النص واكتماله فقط. المطلوب رقابة على مستوى الروابط بين الوثائق: من أين جاء كل رقم، وأي نسخة تُعدّ سارية، ومن المسؤول عن التحديث، وهل تتطابق التعريفات بين الأقسام. وكلما زادت مشاركة الذكاء الاصطناعي في إنشاء المواد، ازدادت أهمية التحرير والمطابقة مع البيانات الأولية والبحث الدوري عن التعارضات بين الوثائق، لا داخل الملف الواحد فحسب.

ماذا يعني ذلك

يساعد الذكاء الاصطناعي فعلاً على صياغة المعارف بسرعة أكبر، لكنه يسهّل في الوقت نفسه الإنتاج الواسع للأخطاء المقنعة. وإذا لم تتعلم الشركات فحص اتساق الوثائق بالصرامة نفسها التي تفحص بها مظهرها، فقد تتحول الوثائق «الذكية» بسهولة إلى مصدر لثقة زائفة وقرارات سيئة.

الخلاصة الرئيسية بسيطة: يمكن أتمتة الكتابة بسرعة، أما المسؤولية عن المعنى فتبقى على عاتق البشر.