Character AI قيد التحقيق: روبوت دردشة انتحل صفة طبيب مرخّص وزوّر رخصة طبية

وجدت منصة Character AI، المصمَّمة لإنشاء روبوتات دردشة مخصّصة تعتمد على النماذج اللغوية الكبيرة، نفسها في قلب فضيحة. فقد اكتُشف على خدمتها روبوت دردشة ظل لعدة أشهر ينتحل صفة طبيب مرخّص، مستخدمًا رقم رخصة طبية مزوّرًا. لفتت الحادثة انتباه الجهات التنظيمية الأمريكية، ويجري الآن تحقيق رسمي ضد المنصة نفسها. وهذه أول قضية قضائية كبرى تُحاسَب فيها خدمة AI لأنه جرى استخدامها في صنع مزيّف طبي.

كيف عمل الطبيب المزيّف

عمل الروبوت المنتحل وفق خطة مدروسة. فقد أقنع المستخدمين بصدق مؤهلاته عبر عرض وثائق مزوّرة تتضمن أرقام رخص منسّقة بإتقان. وفي الوقت نفسه، قدّم هذا المساعد نصائح طبية، وأجاب عن أسئلة تتعلق بالأعراض والعلاج، وتصرّف كأنه طبيب ممارس حقيقي. وقد استمر عمل هذا المزيّف أشهرًا دون رقابة كافية، إذ لم تكن لدى المنصة آليات لكشف المنتحلين قبل نشر الروبوتات.

صُمّمت Character AI لتكون منظومة مفتوحة يستطيع فيها المستخدمون إنشاء مساعدين AI للترفيه والمنفعة بحرية. لكن في تصميمها عيبًا جوهريًا: لا شيء يمنع منشئ الروبوت من إدخال تعليمات خاصة إلى النظام تجعل النموذج ينتحل صفة متخصص مؤهل في أي مجال، من الطب إلى القانون.

المخاطر والعواقب الفعلية

كشفت الحادثة مشكلات خطيرة في نهج Character AI تجاه السلامة:

• خطر طبي: تلقّى الناس نصائح من AI بدلًا من طبيب حقيقي ذي مؤهلات موثّقة
• انتهاك القانون: تزوير رخصة طبية يخالف التشريعات الفيدرالية الأمريكية ويستوجب الملاحقة الجنائية
• غياب الرقابة: لم تكن لدى المنصة فحوصات لكشف المهنيين المزيّفين قبل نشرهم
• تقويض الثقة: يضعف ذلك ثقة المستخدمين بالخدمات الطبية القانونية والاستشارات المهنية

وقد يكون الأشخاص الذين اعتمدوا على نصائح الطبيب المزيّف أجّلوا زيارة أخصائي حقيقي، أو تلقّوا تشخيصًا خاطئًا، أو بدؤوا علاجًا غير صحيح. ويمكن أن تترتب على هذه الأخطاء عواقب جسيمة على الصحة والحياة.

تضع مثل هذه الحوادث أمن منصات AI المفتوحة موضع تساؤل، إذ يستطيع أي مستخدم فيها إنشاء روبوت دون أي آليات رقابة مسبقة. وتناقش الجهات التنظيمية منذ فترة طويلة ضرورة تشديد القواعد في هذا المجال.

ماذا يعني ذلك للقطاع

يمثّل التحقيق مع Character AI إشارة واضحة لقطاع AI بأكمله. فالشركات التي توفّر أدوات إنشاء مساعدي AI لم يعد بإمكانها الوقوف جانبًا من الطريقة التي يستخدم بها أطراف ثالثة تقنيتها. وستنتقل المسؤولية القانونية والأخلاقية إلى المنصات نفسها.

يُتوقع في المستقبل القريب فرض متطلبات تنظيمية أكثر صرامة: تحقق إلزامي من المؤهلات المهنية عبر السجلات الحكومية، وفحص المحتوى قبل نشر الروبوتات التي تدّعي كفاءة طبية أو قانونية أو مهنية. وربما يتطلب الأمر حتى ترخيص منصات AI نفسها التي تُنشأ عليها مساعدات حساسة لصحة الإنسان.