ذكاء اصطناعي جديد من Meta يطلب بيانات المستخدمين الطبية ويقدم نصائح ضارة

قدمت Meta نموذج Muse Spark بميزة لتحليل البيانات الطبية للمستخدمين، بما في ذلك نتائج اختبارات المختبر. اختبر صحفي من Wired قدرات الذكاء الاصطناعي وحصل على نتيجة مقلقة: النظام لم يطلب فقط بنشاط بيانات صحية شخصية خام، بل قدم أيضاً نصائح يصفها الأطباء المؤهلون بأنها ضارة.

تعمل الميزة بهذه الطريقة: يقوم المستخدم بتحميل بيانات الفحص الطبي—تحاليل الدم ونتائج الاختبارات وقراءات المؤشرات الحيوية—ويقوم Muse Spark بتفسيرها وتقديم توصيات. للوهلة الأولى، يبدو أنه أداة مريحة لمن يجدون صعوبة في فهم الوثائق الطبية بدون متخصص. في الواقع، الصورة مختلفة.

خلال الاختبارات، طرح النموذج أسئلة توضيحية تتطلب مشاركة معلومات صحية حساسة للغاية. ومع ذلك، لا توفر Meta للمستخدمين إجابة شاملة حول كيفية تخزين ومعالجة واستخدام هذه البيانات بالضبط. نظراً لأن الشركة تستفيد من الإعلانات الموجهة، فإن هذا الافتقار إلى الشفافية يثير مخاوف قائمة على أساس سليم.

مشكلة أكثر خطورة حتى هي جودة النصائح نفسها. فسّرت الذكاء الاصطناعي المقاييس الطبية بشكل سطحي، ولم تأخذ في الاعتبار السياق الفردي للمريض، وفي عدة حالات توصلت إلى استنتاجات تتناقض مع التوصيات السريرية الحالية. النصائح الصحية غير الدقيقة ليست مجرد تجربة مستخدم سيئة؛ بل هي ضرر محتمل لشخص معين.

يتماشى وضع Muse Spark مع اتجاه أوسع: تدخل شركات التكنولوجيا الكبرى بشكل متزايد المجال الطبي. تضيف Apple ميزات المراقبة إلى Watch، تطور Google Med-PaLM، تعد الشركات الناشئة بالتشخيص من الصور. الطلب على المشورة الطبية في متناول الجميع ضخم—خاصة حيث تستغرق المواعيد مع الأطباء أسابيع والاستشارات الخاصة غالية الثمن. ومع ذلك، يبقى الفجوة بين ما تستطيع نماذج اللغة الحالية فعله وما هو مطلوب من مستشار طبي كبيرة.

الطبيب لا يقرأ فقط أرقام الاختبار—يأخذ في الاعتبار السجل الطبي والأدوية التي يتناولها المريض ونمط الحياة ويرى المريض على مدى الوقت. نموذج لغة يعمل مع وثيقة واحدة محملة يفتقد كل هذا السياق.

المشهد التنظيمي لا يواكب التكنولوجيا. في الولايات المتحدة، يخضع البرنامج الطبي لسيطرة FDA، لكن نماذج اللغة التي تحتوي على وظائف "التوصيات العامة" توجد حالياً في منطقة رمادية قانونية. يبدو أن Meta تضع Muse Spark بشكل مقصود كأداة معلومات بدلاً من أداة تشخيص—مما يسمح لها بتجنب متطلبات اختبار سريري صارمة.

اختبار Wired هو تذكير آخر بأن القدرة على فعل شيء والرغبة في تحمل المسؤولية عنه شيئان مختلفان. ما إذا كانت Meta قادرة على التعامل مع البيانات الطبية بمسؤولية هو سؤال كبير يبقى بدون إجابة مقنعة.