AI Google выдаёт номера незнакомцев вместо контактов услуг
Google Gemini допускает опасный баг: выдаёт номера тысяч людей, когда кто-то ищет юристов или слесарей. Одного парня месяц засыпали звонками от незнакомцев. Goo
Раз в месяц Google Gemini выдаёт совершенно случайные номера телефонов при поиске контактов специалистов. Люди, чьи номера оказались в результатах, месяцами заваливаются звонками от незнакомцев, которые ищут юристов, дизайнеров или слесарей.
Как всё началось
Один пользователь Reddit в отчаянии написал, что уже месяц его телефон дзинькает от звонков. Незнакомцы спрашивали услуги, которые он не предоставляет: нужны были адвокаты, продуктовые дизайнеры, слесари. В марте израильский программист получил подобное через WhatsApp — его завалили запросами от людей, которые нашли его номер через Google Gemini при поиске рекомендаций.
Что случилось на самом деле
Когда пользователи просили поиск через Google Gemini (например, "найди хорошего юриста в Нью-Йорке"), система вместо реальных контактов фирм выдавала случайные номера телефонов из интернет-индекса. Это не ошибка в единичной записи — Google собирает номера с тысяч сайтов, и система просто начала их выдавать, не проверяя релевантность. Опасность в том, что цифра не фильтруется. Человек ищет юриста, получает номер соседа. Или номер человека, который давно переехал, но его старый номер остался в каком-то справочнике.
Какие последствия *
Люди получают волны звонков от незнакомцев в течение недель и месяцев Номера распространяются в интернете через соцсети и форумы Целые кампании требуют от Google объяснений в Reddit и Twitter * Есть подозрения на судебные претензии и жалобы в FTC Алгоритм Gemini начал выдавать номера не позавчера, а проблема накапливалась месяцами. Google долго молчала. В итоге нарвалась на публичность — люди писали в Reddit, TikTok и начали делиться своими историями.
Что это значит Генеративный поиск Google ещё не готов заменить обычный поиск.
Если система не может надёжно выдать правильный контакт, она опаснее бесполезна — она вредит реальным людям. Google пообещала разобраться, но пока механизм исправления неясен. Это напоминание, что AI в production должна проходить через намного более строгие проверки перед тем, как выпускаться в массы.