ذكاء Google الاصطناعي يعرض أرقام غرباء بدلًا من جهات اتصال الخدمات

مرة في الشهر، يعرض Google Gemini أرقام هواتف عشوائية تمامًا عند البحث عن جهات اتصال المتخصصين. ويظل أصحاب الأرقام التي ظهرت في النتائج يتلقون مكالمات من غرباء لأشهر، يبحثون عن محامين أو مصممين أو فنيي أقفال.

كيف بدأ الأمر

كتب أحد مستخدمي Reddit بيأس أن هاتفه يرن منذ شهر بسبب المكالمات. كان الغرباء يطلبون خدمات لا يقدمها: محامين ومصممي منتجات وفنيي أقفال. وفي مارس، تلقى مبرمج إسرائيلي ما يشبه ذلك عبر WhatsApp، إذ انهالت عليه الطلبات من أشخاص عثروا على رقمه عبر Google Gemini أثناء بحثهم عن توصيات.

ما الذي حدث فعلًا

عندما كان المستخدمون يطلبون البحث عبر Google Gemini (مثلًا: "ابحث لي عن محامٍ جيد في نيويورك")، كان النظام يعرض أرقام هواتف عشوائية من فهرس الإنترنت بدلًا من جهات الاتصال الفعلية للمكاتب. وهذا ليس خطأ في سجل واحد، فـ Google تجمع الأرقام من آلاف المواقع، وقد بدأ النظام ببساطة في عرضها دون التحقق من مدى صلتها بالطلب.

يكمن الخطر في أن الرقم لا يخضع لأي ترشيح. يبحث الشخص عن محامٍ فيحصل على رقم جاره. أو على رقم شخص انتقل منذ زمن طويل، لكن رقمه القديم بقي في أحد الأدلة.

ما العواقب

• يتلقى الناس موجات من المكالمات من غرباء على مدى أسابيع وأشهر
• تنتشر الأرقام على الإنترنت عبر الشبكات الاجتماعية والمنتديات
• تطالب حملات كاملة Google بتقديم تفسيرات على Reddit وTwitter
• هناك شكوك بشأن دعاوى قضائية وشكاوى إلى FTC

لم تبدأ خوارزمية Gemini بعرض الأرقام قبل يومين، بل كانت المشكلة تتراكم منذ أشهر. وقد التزمت Google الصمت طويلًا. وفي النهاية اصطدمت بالضجة العامة: كتب الناس على Reddit وTikTok وبدأوا يتشاركون قصصهم.

ماذا يعني ذلك

البحث التوليدي من Google ليس جاهزًا بعد ليحل محل البحث العادي. فإذا كان النظام لا يستطيع عرض جهة الاتصال الصحيحة بشكل موثوق، فهو أسوأ من عديم الفائدة، إذ يلحق الضرر بأشخاص حقيقيين. وعدت Google بالتحقيق في المشكلة، لكن آلية الإصلاح ما زالت غير واضحة.

هذا تذكير بأن الذكاء الاصطناعي في بيئة الإنتاج (production) يجب أن يمر بفحوص أكثر صرامة بكثير قبل إطلاقه للجمهور الواسع.

*Meta مصنفة منظمة متطرفة ومحظورة في روسيا الاتحادية.