Антифрод-проекты учат ИИ-ботов изображать жертв и выматывать мошенников

Мошенники годами звонят по скриптам и рассчитывают на то, что на другом конце окажется живой и растерянный человек. Теперь там всё чаще оказывается нейросеть. Антимошеннические инициативы подключают ИИ-ботов с реалистичным голосом и манерой речи, чтобы преступники принимали их за настоящих жертв. Один из самых известных ранних примеров — Daisy от Virgin Media O2: «бабушка», которая, по заявлению оператора, держит звонящего на линии до 40 минут. Каждая такая минута для мошенника потеряна, а для защитников превращается в данные.

Как устроена ловушка

Типичная схема такой приманки собирается из трёх блоков: распознавание речи, языковая модель и синтез голоса. Модель получает роль, например пожилого, словоохотливого и немного рассеянного человека. Она не отказывает сразу и не соглашается сразу. Бот переспрашивает, путает цифры, уходит в рассказ про внуков и кошку, «ищет карту» и «не может найти очки». Задача не в том, чтобы выиграть спор, а в том, чтобы разговор шёл как можно дольше и выглядел убедительно.

Главное преимущество перед человеком-добровольцем в том, что бот не устаёт и не раздражается. Он также не выдаёт себя эмоциями, которые трудно скрывать на пятидесятой минуте бессмысленного диалога. Живой человек так не умеет.

Кто уже этим занимается

Идея не нова, но языковые модели сделали её дешёвой и масштабируемой. Ниже проекты, о которых известно из открытых источников. Конкретные цифры по каждому лучше сверять с первоисточниками.

• Daisy (Virgin Media O2, Великобритания): голосовая ИИ-«бабушка», по данным оператора, удерживает мошенников до 40 минут.
• Apate (Macquarie University, Австралия): исследовательский проект с ИИ-персонажами, которые отвечают на звонки и сообщения мошенников.
• Re:scam (Netsafe, Новая Зеландия): пользователь пересылает подозрительное письмо, и бот ведёт с отправителем переписку от лица «жертвы».
• Jolly Roger Telephone Company (США): платный сервис с ботами против телемаркетеров и мошеннических звонков.

Общая метрика у всех одна: длительность контакта. Чем она больше, тем дороже обходится атака. Вторая метрика — качество собранных данных: номера, названия «банков», сценарии, реквизиты для переводов.

Экономика и ограничения

Мошеннический колл-центр держится на дорогом ресурсе: времени операторов. Бот, который параллельно ведёт сотни разговоров за стоимость вычислений, ломает эту экономику. Мошенник не может быстро понять, что тратит время впустую, пока не сработает его собственный фильтр.

У подхода есть слабые места. Во-первых, сами преступники используют генеративный ИИ, поэтому в ряде случаев бот разговаривает с ботом, и польза от затягивания разговора падает. Во-вторых, оператор на той стороне может быть не добровольным преступником: в схемах из Юго-Восточной Азии часто работают люди, вывезенные силой. Выматывать таких «сотрудников» этически сложнее, чем бить по организаторам. В-третьих, остаются юридические вопросы: запись разговоров, хранение голосов и данных, ошибочные срабатывания на реальных людей.

Что делать на практике

Обычному пользователю ловушки не заменят базовую гигиену. Если звонят «из банка» или «из полиции», завершите разговор и перезвоните по официальному номеру. Подозрительные письма и сообщения стоит пересылать в профильные сервисы вашей страны, если они есть: часть из них питает именно такие системы.

Телеком-операторам и банкам стоит рассматривать приманки как источник разведданных об угрозах. Номера, сценарии и кошельки, собранные ботами, можно быстро передавать в блокировки и антифрод-правила. Командам безопасности имеет смысл заранее продумать правила: что бот имеет право говорить, какие данные хранить и когда передавать материалы правоохранителям. Без этого ловушка быстро станет юридической проблемой для её владельца.