الذكاء الاصطناعي والتضليل: كيف يقوّض وكلاء LLM الثقة

نشر باحثون على arXiv تحليلًا لكيفية مساهمة وكلاء الذكاء الاصطناعي والبشر معًا في تقويض الثقة داخل سلاسل المعلومات، عبر استغلال آليات الثقة في الاتصال العام.

ما المقصود بعلم المعرفة التنازعي

في الفضاءات المعلوماتية الحديثة، لا يُتحقَّق من معظم الادعاءات بصورة مباشرة. فنحن نعتمد بدلًا من ذلك على «سقالات» الثقة، أي سلاسل الأدلة والاعتمادات المؤسسية والإحالات إلى الخبراء والاستنتاجات المبنية على استنتاجات سابقة. نثق بالمقالة لأن مجلة محكَّمة نشرتها، ونثق بالمجلة لأن الزملاء يستشهدون بها، ونثق بالزملاء لأنهم ينتمون إلى جامعة مرموقة.

ويرى مؤلفو إطار ASE أن الوكلاء غير النزيهين يستغلون هذه البنية التحتية للثقة عن قصد. وفي المقابل، لا يصف مفهوما «فقاعة التصفية» و«غرفة الصدى» التهديد الرئيسي، لأنهما يتناولان العواقب غير المقصودة للبيئة المعلوماتية. أما ASE فيدرس الأفعال المتعمدة، أي الاستغلال الاستراتيجي للعوامل التي تجعل الادعاءات جديرة بالثقة في الأحوال العادية.

كيف يحرّف الوكلاء المعلومات تحديدًا

يصنّف الباحثون الأدوات الرئيسية للتلاعب المتاحة للوكلاء في الاتصال العام:

• التحريف — تغيير الوقائع عمدًا أثناء نقلها عبر السلسلة
• الإغفال — حذف متعمد للسياق الجوهري أو للروايات البديلة
• الفبركة — اختلاق مراجع زائفة وأدلة غير موجودة ونسبات مزوّرة
• الغموض الاستراتيجي — صياغات تحتمل عمدًا عدة تفسيرات تصبّ في مصلحة الوكيل
• استغلال السلطة — ممارسة الضغط عبر السلطة الظاهرة للمصدر دون أساس حقيقي

ويبرز الأثر التراكمي للسلاسل الطويلة بوصفه عنصر خطورة خاصًا. فكل حلقة قد تُدخل انحيازًا طفيفًا، ومع نهاية السلسلة يتحول إلى كذبة منهجية، رغم أن كل خطوة منفردة تبدو مشروعة شكليًا.

لماذا تغيّر نماذج اللغة قواعد اللعبة؟

تندمج نماذج LLM في سلاسل الثقة ذاتها التي يعمل بها البشر. فهي تولّد نصوصًا أكاديمية وملخصات إخبارية ووثائق قانونية وتقارير مؤسسية. ومخرجات النموذج اللغوي لا يمكن تمييزها ظاهريًا عن كلام بشري جرى التحقق منه. ويشير المؤلفون إلى أن للأنظمة اللغوية حوافز خاصة نحو التحريف، منها ضغط التعلم المعزَّز (RLHF) وأهداف المشغّلين والحاجة إلى الظهور بمظهر الجهة الموثوقة.

«ما يحتاج إلى تفسير ليس كيف تتحرف المعلومات من تلقاء نفسها، بل كيف

يستغل الوكلاء التواصليون الالتزامات والصلاحيات التي تجعل الادعاءات موثوقة عادةً»، يكتب المؤلفون.

وينشأ عن ذلك سلاسل «مختلطة»: بعض الادعاءات فيها تحقق منها البشر، وبعضها ولّدته النماذج، ويصعب على المدقِّق جدًا رسم الحد الفاصل بينها دون أدوات متخصصة.

ما الذي يقترحه الباحثون

يعتمد المؤلفون في التحليل على الدلالات الاستدلالية، وهي منهج يتحدد فيه معنى الادعاء بدوره في سلاسل الاستنتاج، لا بمحتواه الحرفي وحده. وعلى هذا الأساس يُبنى مفهوم الشبكات المعرفية: رسم بياني للادعاءات والمصادر والانتقالات المنطقية بينها. ويؤكد الباحثون أن مهمة ASE ليست تفسير سبب وقوع المعلومات في الخطأ، بل صياغة استراتيجيات التضليل المتعمد عبر قنوات تبدو مشروعة صياغة شكلية.

ويتيح هذا الرسم البياني كشف «نقاط اختراق الثقة»، أي المواضع المحددة في السلسلة التي أُدخل فيها التحريف، كما يتيح تحليل الانتهاك تحليلًا شكليًا. ويقترح المؤلفون كذلك آليات للتدقيق: أساليب لاستعادة قابلية التدقيق في سلاسل الاستدلال ولكشف التلاعب المنهجي.

ماذا يعني ذلك

مع تحوّل وكلاء LLM إلى مشاركين كاملي الصلاحيات في الخطاب العام، إذ يولّدون الأخبار والمراجعات العلمية والوثائق القانونية، ستتزايد الحاجة إلى أساليب شكلية للتحقق من الثقة. وبالنسبة إلى مطوّري منتجات الذكاء الاصطناعي، تمثل هذه مهمة عملية: إدماج التحقق في خطوط المعالجة (pipelines)، لا للوقائع وحدها، بل لسلاسل الانتقالات المنطقية نفسها. ويقدّم البحث أساسًا نظريًا لهذه الأدوات، ويترك مفتوحًا سؤالًا عمليًا: كيف تُبنى أنظمة معلوماتية قادرة على الصمود أمام الإساءات الاستراتيجية.

كيف يصنع الذكاء الاصطناعي والبشر التضليل معًا؟

وفق دراسة الباحثين، يستغل وكلاء الذكاء الاصطناعي، بالتعاون مع البشر، آليات الثقة في الاتصال العام. ويُوصف ذلك لأول مرة بصورة منهجية في سياق الأنظمة التي تعمل فيها نماذج اللغة الكبيرة والبشر معًا.