SMS do fisco: como redes neurais tornaram phishing indistinguível da realidade

Вы наверняка помните те времена, когда фишинговое сообщение можно было распознать за версту по нелепым опечаткам, странному синтаксису и общему ощущению, что текст переводили с экзотического диалекта через раннюю версию Google Translate. Эти времена официально в прошлом. Сегодня, когда налоговый сезон в самом разгаре, мошенники вооружились большими языковыми моделями, и это превратило обычный спам в высокоточное оружие социальной инженерии. Теперь СМС о якобы положенном вам налоговом вычете выглядит так, будто его выверил целый отдел копирайтеров и юристов. И это пугает гораздо сильнее, чем сама перспектива проверки от налоговой.

Суть проблемы не в том, что мошенники стали умнее, а в том, что инструменты стали доступнее. Раньше для проведения масштабной кампании требовались люди с хорошим знанием языка и пониманием бюрократического стиля. Сейчас достаточно одного промпта в условный «черный» GPT, чтобы сгенерировать тысячи вариаций убедительных текстов, которые идеально имитируют тон официальных органов. Эти модели не просто исправляют ошибки, они адаптируют контекст под конкретную страну, регион и даже текущие новости, делая ловушку максимально релевантной для жертвы. Когда вы получаете уведомление о возврате средств именно в тот день, когда ожидали его, сопротивляться желанию кликнуть по ссылке становится почти невозможно.

Почему это важно именно сейчас? Мы находимся в точке перелома, когда классические советы по безопасности вроде «проверьте текст на наличие ошибок» становятся не просто бесполезными, а опасными. Они создают ложное чувство защищенности. Если текст написан идеально, это не значит, что он настоящий. Это значит, что у мошенника есть доступ к API современной нейросети. FTC и другие регуляторы продолжают выпускать памятки, но они катастрофически не успевают за темпами развития генеративного ИИ. Мошеннические схемы теперь масштабируются со скоростью света, и то, что вчера было единичным случаем, сегодня становится эпидемией, охватывающей миллионы пользователей за считанные часы.

Связь здесь прямая: развитие LLM снизило порог входа в киберпреступность до исторического минимума. Теперь не нужно быть хакером или лингвистом, нужно просто уметь пользоваться чат-ботом. Это создает колоссальную нагрузку на системы фильтрации операторов связи и почтовых сервисов, которые сами вынуждены внедрять ИИ для борьбы с ИИ-контентом. Мы наблюдаем своеобразную «гонку вооружений» в текстовом пространстве, где полем битвы становится ваш смартфон. И пока защитные алгоритмы учатся отличать синтетическую вежливость нейросети от реального официоза, единственным надежным щитом остается ваш личный скептицизм.

В ближайшем будущем мы увидим еще более изощренные атаки. Представьте, что нейросеть анализирует ваши открытые данные в соцсетях и присылает вам СМС от налоговой, учитывая ваш реальный род деятельности или недавние крупные покупки. Это уже не фантастика, а вопрос настройки правильного скрипта. Технологии позволяют делать фишинг персонализированным в промышленных масштабах, и это меняет правила игры для каждого, кто пользуется интернетом. Нам придется привыкнуть к мысли, что любое входящее сообщение, требующее быстрых действий с деньгами, является подделкой по умолчанию, как бы убедительно оно ни выглядело.

Главное: Доверять глазам больше нельзя — современные LLM пишут официальные письма лучше, чем живые чиновники. Если сообщение требует кликнуть по ссылке для получения денег, закройте его и зайдите в личный кабинет на официальном сайте ведомства вручную. Готовы ли вы к тому, что ваш следующий «разговор» с банком или налоговой будет полностью сгенерирован алгоритмом?