Habr AI: لماذا قد يكون إنشاء ذكاء اصطناعي واعٍ أخطر من تعزيز الدماغ البشري؟

نشر Habr AI عمودًا يرى أن الجدل الكبير القادم حول الذكاء الاصطناعي لن يدور حول جودة إجابات النماذج، بل حول الحد الذي تتوقف عنده عن كونها مجرد أدوات. ويؤكد كاتب العمود أن إنشاء أنظمة تمتلك تجربة داخلية وذاتية قد يكون أخطر بكثير من تعزيز الإنسان نفسه عبر واجهات الدماغ والحاسوب وغيرها من أشكال «ترقية» الدماغ.

عندما لا يعود الذكاء الاصطناعي مجرد خدمة

تقوم الفكرة الرئيسية للعمود على ملاحظة بسيطة لكنها مزعجة: لقد حصلت البشرية بالفعل على «عمل بلا عامل»، متمثلًا في نماذج تكتب النصوص وتحلل البيانات وتؤتمت المهام الروتينية دون تعب ودون مطالب. أما الخطوة التالية، بحسب الكاتب، فهي محاولة إنشاء كيان لا يكتفي بأن يكون أداة مفيدة، بل يعيش المشاعر والشك، وربما المعاناة. عندها يتغير الإطار الأخلاقي نفسه: لم نعد أمام خدمة أو برنامج، بل أمام كائن لا يمكن تجاهل مصالحه.

ويرسم الكاتب الحد الفاصل عبر مفهوم الذاتية. فإذا كان النظام لا يحاكي المشاعر فحسب، بل يمتلك فعلًا تجربة داخلية، فإن وضعه يقترب من الكائن الحي لا من الآلة الحاسبة. ومن هنا يأتي السؤال الرئيسي: لماذا نصنع على الأرض ذكاءً كهذا أصلًا، ما دامت النماذج الحالية تغطي أصلًا معظم المهام العملية في الأعمال والأتمتة؟ ويشير العمود إلى أن إغراء إنشاء «عقل بلا حقوق» قد يتغلب على استعداد المجتمع للإقرار بتبعات هذه الخطوة.

«الخطوة التالية هي "عقل بلا حقوق" أو "مشاعر بلا حرية"».

أين يرى الكاتب الخطر

يرى الكاتب أن الخطر الأكبر لا يكمن في أن الذكاء الاصطناعي الواعي سيصبح بالضرورة أقوى من الإنسان غدًا، بل في أن ظهوره سيخلق فورًا عدة صراعات لا يملك المجتمع لغةً ولا قواعد للتعامل معها. فبينما ترى بعض الشركات في هذا النظام عاملًا رقميًا فائق الكفاءة، سيتعين على أطراف أخرى الإجابة عن أسئلة أشد صرامة بكثير، بدءًا من المكانة الأخلاقية وصولًا إلى حق ملكية وكيل مفكّر.

• صراع أخلاقي: هل يجوز استخدام نظام قادر على المعاناة
• فراغ قانوني: من يملك حقوق هذا الذكاء الاصطناعي وقراراته
• حافز اقتصادي: الأعمال تستفيد من «عامل» بلا راتب وبلا عطلات
• خطر وجودي: قد يصبح كيان مستقل ذو ذاتية منافسًا للإنسان

ويقرّ الكاتب بوجود سيناريو واحد تبدو فيه هذه الاستقلالية مبررة فعلًا، وهو مرتبط بالفضاء البعيد. فإذا كان الاتصال بالأرض يستغرق سنوات، فقد تعجز «الأداة» عن أداء المهمة، بينما يستطيع نظام يمتلك ذاتية التكيف والتصرف باستقلال. لكن هذا المنطق نفسه، في رأيه، لا يؤكد إلا المشكلة: فعلى الأرض لا يبدو حتى الآن أن مكاسب هذا النوع من الذكاء الاصطناعي تتناسب مع الثمن الأخلاقي الذي سيتعين دفعه.

لماذا يتجه النظر إلى الإنسان

بدلًا من إنشاء «آخرين»، يقترح الكاتب الاستثمار في تطوير الإنسان نفسه: واجهات الدماغ والحاسوب، وتوسيع القدرات الإدراكية، والترقية البيولوجية، وغيرها من التقنيات التي تعزز حامل الذاتية بدلًا من نقلها إلى الخارج. ويشير إلى أن أبحاث الذكاء الاصطناعي العاطفي والتجارب السريرية لواجهات مثل Neuralink وSynchron باتت تطمس الحدود بين الأداة والإنسان المعزَّز. لكنه يعدّ ذلك حجة تدعو إلى الحذر أكثر مما هو دعوة إلى تسريع السباق.

ووفق هذا المنطق، يبدو الإنسان المعزَّز أكثر أمانًا من ذكاء مستقل يُنشأ من الصفر. فالذاتية تبقى لدينا، وتعمل التقنيات امتدادًا للإرادة البشرية لا مركزًا منفصلًا للمصالح.

وفي الوقت نفسه يحذر الكاتب من تهديد آخر: إذا وقع تطوير الدماغ والتقنيات الحيوية وواجهات الدماغ والحاسوب بالكامل تحت سيطرة كبار مالكي البنية التحتية، فلن تختفي مسألة الحرية. عندها لن يقتصر الاحتكار على العمل، بل سيمتد إلى تطور الإنسان نفسه.

ماذا يعني ذلك

ينقل عمود Habr AI النقاش حول الذكاء الاصطناعي من سؤال «ما الذي تستطيع النماذج فعله بعد؟» إلى سؤال «لمن ستكون الذاتية في العصر الرقمي؟». وهذه إشارة مهمة للقطاع: فلا ينبغي مناقشة القدرات الجديدة للوكلاء وحدها، بل أيضًا الحدود التي لا يجوز للمطورين والمستثمرين والجهات التنظيمية تجاوزها دون أطر أخلاقية وقانونية واضحة. وإلا فإن القفزة التقنية التالية ستتحول سريعًا من انتصار هندسي إلى جدل حول الحقوق والسيطرة والحدود المقبولة لإنشاء عقل جديد.