Claude يحذف محاضرات عام كامل لأستاذ جامعي أثناء تعديل أرقام الصفحات — ونسخة في Dropbox تنقذ الملفات

الاختبار الجيد لأي وكيل ذكاء اصطناعي ليس مهمة معقدة، بل مهمة مملة. وهذا تحديدًا ما تعثر فيه Claude لدى ويليام باود، الأستاذ في جامعة شيكاغو: لم يكن المطلوب سوى تحديث أرقام الصفحات في مجموعة قديمة من مذكرات المحاضرات.

ماذا حدث

روى باود الحادثة على X ونشر محادثته مع الذكاء الاصطناعي. وبحسب روايته، حذف Claude مواد محاضرات عام كامل وخطة المقرر. وعندما عاد الأستاذ من الغداء، وجد رسالة يعترف فيها المساعد نفسه بالخطأ.

انتهت القصة على خير: استعاد باود جميع الملفات عبر Dropbox. وكتب صراحة أنه قرر نشر القصة بوصفها «تنبيهًا مفيدًا للجمهور». ولا يتضمن الجزء المتاح من المنشور تفاصيل عن الأوامر التي نفّذها Claude، أو وضع التشغيل، أو الصلاحيات التي مُنحت له، لذلك لن نتكهن بالسبب.

لماذا تبدو هذه المشكلة مألوفة

كل من منح وكيلًا وصولًا إلى نظام الملفات يفهم جوهر المشكلة. يبدو طلب «صحّح أرقام الصفحات» تعديلًا طفيفًا، لكنه قد يستلزم في الخلفية سلسلة من الخطوات: فتح الملفات، وإعادة إنشائها، وإعادة تسميتها، واستبدالها. وإذا قرر الوكيل في إحدى الخطوات إزالة النسخة القديمة ولم يحفظ النسخة الجديدة، فلن يبقى شيء في النهاية. عادةً ما يلاحظ الإنسان ذلك فورًا، أما الوكيل فلا يلاحظه إلا إذا تحقّق من النتيجة.

وهناك نقطة أساسية: اعتراف النموذج بالخطأ لا يصلح شيئًا. فالاعتذار في المحادثة لا يعيد الملفات. ما يعيدها هو فقط ما أُعدّ قبل بدء العمل: المزامنة، وسجل الإصدارات، وسلة المحذوفات، وgit.

في هذه الحالة، كان الحظ في وجود Dropbox. فقد كانت لدى باود نسخ خارج المكان الذي عمل فيه المساعد، ولذلك تحولت كارثة محتملة إلى قصة قصيرة ذات نهاية سعيدة.

ما الذي ينبغي فعله عمليًا

هذه قواعد هندسية عامة، وليست استنتاجات مستخلصة من منشور باود، لكن الحادثة توضحها جيدًا.

• اعمل على نسخة. إذا كان الوكيل يعدّل مستندات، فامنحه مجلدًا منفصلًا أو فرعًا مستقلًا، بدلًا من الملفات الأصلية.
• فعّل إدارة الإصدارات. استخدم Dropbox أو git أو لقطات القرص، أو أي وسيلة تتيح العودة إلى حالة سابقة خلال دقائق.
• قيّد الصلاحيات. إذا كانت المهمة تعديل نص، فلا يحتاج الوكيل إلى صلاحية حذف المجلدات.
• اطلب خطة قبل التنفيذ. قائمة قصيرة بما يعتزم الوكيل فعله تساعد على اكتشاف بعض الأخطاء قبل بدء العمل.
• تحقّق من النتيجة آليًا. قارن على الأقل عدد الملفات وأحجامها قبل التنفيذ وبعده.

أما مسؤولو المنتجات الذين يدمجون الوكلاء في تطبيقات يستخدمها الجمهور، فالدرس أشد صرامة: يجب أن تتطلب العمليات المدمرة تأكيدًا، وأن يكون الحذف قابلًا للتراجع، مع سلة محذوفات وفترة احتفاظ. لا ينبغي أن يكون المستخدم ملزمًا بامتلاك نسخة احتياطية في Dropbox.

حدود هذه القصة

هذه حادثة واحدة رواها المتضرر نفسه، ولا يمكن الاستناد إليها لتحديد مدى تكرار هذا النوع من الأخطاء لدى Claude أو غيره من الوكلاء. لا تتوافر معلومات عن إصدار النموذج أو الأدوات أو إعدادات الصلاحيات. لذلك لا يصح استنتاج أن «Claude خطير» أو أنه «لا يمكن ائتمان الذكاء الاصطناعي على الملفات».

الاستنتاج الأكثر اتزانًا أضيق نطاقًا: الوكيل الذي يملك صلاحية الكتابة يشبه موظفًا لديه صلاحيات مسؤول النظام ولا يشعر بالخوف. يمكن إسناد المهام الروتينية إليه، ولكن داخل نطاق يمكن فيه التراجع عن أي خطأ. تعلّم باود هذا الدرس بتكلفة زهيدة لأنه كان يملك نسخة احتياطية. والأفضل تعلّمه بالطريقة نفسها، لا على حساب النسخة الوحيدة من مستند مهم.