Google DeepMind и Сингапур выпустили Gemma против мошенников: потери S$4 млрд

Мошенничество в Сингапуре занимает больше половины всех зарегистрированных преступлений, а суммарные потери с 2019 года превысили S$4 млрд. Google DeepMind и Government Technology Agency of Singapore (GovTech) показали на Singapore International Cyber Week 2026 свой ответ: модель обнаружения мошеннических диалогов, которая целиком работает на смартфоне. Основа — облегчённая Gemma, дообученная на местных сценариях обмана. Проект вырос из национального партнёрства DeepMind с правительством Сингапура.

Почему серверные фильтры упираются в стену

Схемы изменились. Простой фишинг уступил место социальной инженерии: жертву долго обрабатывают убедительной перепиской и только потом просят денег. По данным авторов проекта, на такие сценарии приходится до 80% всех потерь. Поймать их по ссылке или шаблону письма сложно, потому что вредоносной ссылки в разговоре может не быть вовсе.

Вторая проблема — шифрование. Классическая защита сканирует сообщения на сервере, но во многих мессенджерах работает сквозное шифрование, и платформа просто не видит содержимое чатов. Третья — локальный контекст. Универсальные модели хуже распознают подделки под сингапурские госструктуры, банки и известных местных людей, а также региональные схемы, которые быстро появляются и исчезают.

Решение команды: перенести анализ на устройство. Переписка остаётся у пользователя, а предупреждение появляется до того, как человек отправил деньги или данные для входа.

Как устроен двухступенчатый конвейер

Запускать сложный классификатор на обычном телефоне означает бороться за заряд батареи. Поэтому система разделена на два этапа. Сначала входящие сообщения просматривает лёгкий классификатор с минимальным энергопотреблением, его задача — заметить потенциальную угрозу. Если подозрение возникло, подключается вторая ступень: дообученная Gemma оценивает больший фрагмент диалога и либо подтверждает угрозу, либо снимает тревогу. Эта схема нужна и для борьбы с ложными срабатываниями: бытовая переписка, где просят одолжить денег, не должна выглядеть как атака.

При подтверждении модель выводит предупреждение прямо на экране с советом остановиться и не делиться чувствительной информацией или средствами. Для обучения использовали реальные по структуре диалоги: имитации госучреждений, банков, местных публичных фигур и актуальных региональных схем.

Ключевые параметры проекта:

• База: Gemma, облегчённая модель Google DeepMind, дообученная на локальных сценариях мошенничества.
• Где работает: на смартфоне, анализ переписки не требует отправки данных в облако.
• Ступень 1: лёгкий классификатор входящих сообщений с низким энергопотреблением.
• Ступень 2: контекстная оценка более крупного фрагмента диалога дообученной Gemma.
• Среда обучения: управляемое окружение GovTech в GCP, данные изолированы.
• Данные: анонимизированные наборы из жалоб на мошенничество и разведывательных потоков, без персональных данных граждан.
• Проверка: синтетические диалоги и локальные корпуса, охватывающие разные категории схем и подделок.
• Не раскрыто: размер модели, точность, доля ложных срабатываний, список поддерживаемых устройств.

Управление данными и ограничения

Авторы отдельно подчёркивают дисциплину при разработке. Дообучение шло в «суверенной песочнице» — среде GovTech, которую агентство само обслуживает. Из обучающей выборки исключили любую частную и персонально идентифицируемую информацию. Устойчивость к новым приёмам проверяли синтетическими диалогами, имитирующими меняющиеся тактики подмены личности.

Марк Чен, директор по доверию и безопасности GovTech, формулирует задачу так: ловить целевые локальные попытки обмана в реальном времени и не нарушать приватность переписки.

Кому это пригодится и чего не хватает

Проект задуман как образец для мессенджеров и производителей операционных систем: они могут встраивать подобные облегчённые модели и защищать пользователей локально, не ломая сквозное шифрование. Для банков и регуляторов в других странах это рабочий шаблон: национальная модель на локальных данных плюс анализ на стороне клиента.

Но публикация оставляет вопросы, без ответов на которые оценить реальную эффективность нельзя. Нет цифр по точности и полноте обнаружения, нет данных о ложных срабатываниях в живой переписке и о нагрузке на батарею в часах. Не описано, как именно встроят инструмент в конкретные приложения и кто будет обновлять модель, когда схемы мошенников сменятся. Пока это демонстрация подхода, а не готовый продукт для массового развёртывания. Следить стоит за тем, какая платформа первой интегрирует модель и опубликует независимые замеры.