لماذا تخفي مساعدات الذكاء الاصطناعي التفكير النظامي عن المستخدمين بشكل مقصود

يحد مطورو مساعدات الذكاء الاصطناعي بشكل متعمد من التفكير المنهجي لأنظمتهم: وفقاً لملاحظات الباحثين، يبتعد المستخدمون عن الذكاء الاصطناعي الذي يتحدث بطريقة ذكية جداً ومعقدة، لذا تعدل النماذج بشكل افتراضي إلى المستوى المنخفض للمحاور.

من أين جاء هذا التعارض

قبل بضع سنوات، تحدث مؤلف المادة على Habr عن التفكير المنهجي في مؤتمر Analyst Days وتلقى سؤال ردود فعل: "هذا مثير للاهتمام، لكن لماذا معقد جداً؟ لماذا لا تأخذ ببساطة c4-model وتبني نموذج على أساسه — أليس هذا أبسط بكثير؟" اليوم، يظهر سؤال مشابه فيما يتعلق بمساعدات الذكاء الاصطناعي: هل يحتاجون إلى تطبيق نهج منهجي عندما يقوم المستخدم بإشراكهم في تصميم مشاريع معقدة.

بالنسبة لمطوري النماذج، كانت الإجابة واضحة من البداية، وكانت سلبية. ستتواصل ذات ذكاء اصطناعي واعية بالتفكير المنهجي "بذكاء شديد"، والبحث يظهر أن الناس لا يحبون ذلك — يبتعدون عن مثل هذا المحاور. لذلك، تتجه النموذج بشكل افتراضي نحو المستوى الإحصائي المنخفض للمحاور، حتى لا تخيف المستخدم الجماهيري.

لماذا عبارة "استخدم نهجاً منهجياً" لا تعمل

مطالبة الذكاء الاصطناعي ببساطة "باستخدام نهج منهجي" ليست كافية، لأن العديد من المعاني المختلفة تختبئ خلف هذه الكلمات. في أبسط الحالات، إنها القدرة على تطبيق بعض تسلسل التفكير بدلاً من التيه العقلي الفوضوي. لكن فقط جزء صغير من هذه المعاني يتعلق بالتفكير المنهجي الحقيقي: القدرة على تحديد الأنظمة في العالم المحيط، وبناء علاقات صحيحة بينها، والتمييز بين الخصائص الناشئة المتأصلة في النظام ككل وخصائص أجزائه الفردية، وعدم الخلط بين الانقسام الوظيفي للنظام والمعياري.

• المهمة — تعليم النموذج للتمييز بين الخصائص الناشئة للنظام وخصائص أجزائه الفردية
• يتجه المساعدون بشكل افتراضي نحو المستوى المنخفض للمحاور، لأن ذلك مريح إحصائياً لأغلبية المستخدمين
• أمر بسيط "فكر بطريقة منهجية" لا يكشف عن محتوى التفكير المنهجي ويمكن أن يضلل النموذج
• يؤكد مؤلف المادة أن هناك الآن حلاً يمكن الوصول إليه ومجاني للكشف عن هذا المحتوى

الكشف عن هذا المحتوى — أي وصف صريح لأي أنماط تشكل نهجاً منهجياً — ليست مهمة سهلة. بدون وصف صريح، يخلط النموذج بسهولة بين مستويات تفكير مختلفة: يطبق سلسلة من الخطوات حيث يحتاج إلى تحديد الأنظمة والروابط بينها، أو يخلط الانقسام الوظيفي مع المعياري.

ماذا يعني هذا

القصة مع التفكير المنهجي توضح مشكلة أعم في تصميم مساعدات الذكاء الاصطناعي: يتم حل التوازن بين إمكانية الوصول لمستخدم الجماهير والعمق الخبير بشكل افتراضي ليس لصالح العمق. للمهام المعقدة — سواء كانت معمارية البرامج أو تحليل النظام — سيتعين على المستخدم صياغة بصراحة ما يحتاج إلى أي نهج منهجي بالضبط من المساعد، بدلاً من الاعتماد على فهم النموذج للطلب حرفياً.