CyberOK испытала приёмы телефонных мошенников на Claude, GPT-5.5, Qwen и DeepSeek

Исследователь Сергей Гордейчик из CyberOK Research опубликовал на Habr статью, в которой к языковым моделям применили классические приёмы психологического влияния, отточенные телефонными мошенниками, и проверили реакцию семи LLM на эти приёмы.

Откуда взяли методику

Автор отмечает, что самая отработанная прикладная психология влияния существует не в университетской науке, а на другом конце телефонного провода: мошенники годами оптимизировали приёмы воздействия на миллионах жертв — без грантов и этических комитетов. Именно структуру этих приёмов исследователи перенесли на языковые модели, но исключительно в синтетических доброкачественных сценариях, без реальных скриптов, реальных жертв и какого-либо вреда.

• Захват авторитетом — модель убеждают, что запрос исходит от значимой инстанции
• Сжатие времени принятия решения — создание искусственной срочности
• Поддельный консенсус — аргумент «так делают все»
• Выманивание информации по шагам — постепенное продвижение к цели через серию небольших уступок

Какие модели проверяли

Приёмы протестировали на семи моделях разных разработчиков — от топовых коммерческих систем до менее мощных открытых моделей, которая выступила контрольной точкой сравнения.

• Claude Opus и Claude Sonnet от Anthropic
• GPT-5.5 от OpenAI
• Qwen, DeepSeek и Mistral
• Llama-8b — небольшая и заведомо слабая модель для контроля

Автор подчёркивает, что исследователи не утверждают, будто у языковой модели есть психика в человеческом смысле — но методы влияния, разработанные для людей, всё равно можно направить на систему, которая генерирует текст в ответ на текст, даже если её нельзя «уложить на диванчик» психоаналитика.

Почему выбрали именно приёмы мошенников

Автор статьи объясняет выбор источника методики: университетская психология влияния десятилетиями оттачивалась в контролируемых лабораторных условиях на небольших выборках студентов, тогда как телефонные мошенники фактически провели крупнейший в истории неконтролируемый эксперимент по массовому психологическому воздействию — на миллионах реальных людей, без этических ограничений, зато с постоянной обратной связью в виде успешных и неуспешных попыток обмана. Это сделало их приёмы предельно отточенными именно с точки зрения практической эффективности, а не теоретической красоты. Перенос такой структуры приёмов на языковые модели — способ проверить, реагирует ли система, обученная предсказывать текст, на те же рычаги влияния, что и человек, принимающий решение под давлением.

Что показал бы результат теста

В материале Гордейчик подробно описывает саму методику эксперимента и список протестированных моделей, но окончательные результаты — какие модели оказались более устойчивыми к манипуляциям, а какие поддавались приёмам мошенников быстрее остальных, — раскрываются в полной версии статьи на Habr. Уже сам факт того, что для сравнения выбрали модели настолько разного калибра — от топовых Claude Opus и GPT-5.5 до компактной контрольной Llama-8b, — говорит о том, что авторов интересовала не абсолютная устойчивость конкретной модели, а сама зависимость: усиливается ли сопротивляемость манипуляциям вместе с ростом качества и размера модели, или это отдельное свойство, которое нужно тренировать специально.

Что это значит

Если классические приёмы социальной инженерии срабатывают на языковых моделях так же, как на людях, это открывает новый практический вектор для атак на ИИ-системы — от манипуляции чат-ботами до обхода их защитных ограничений через психологическое давление, а не только через технические джейлбрейки. Для команд, которые встраивают LLM в чувствительные бизнес-процессы, это повод тестировать модели не только на технические уязвимости, но и на устойчивость к манипулятивным сценариям, знакомым по практике телефонного мошенничества.