Эксперимент с 2 млн промптов-ловушек выявил взлом 3 ИИ-провайдеров и кражу ключей AWS
Допустим, вы отправили в промпт рабочий ключ AWS, а ИИ-роутер вроде OpenRouter передал его дальше по цепочке. HD Moore из Dragos разослал почти 2 млн промптов с ключами-ловушками и смотрел, где они всплывут: минимум три провайдера оказались взломаны, а часть перекупщиков воровала секреты из логов. Флаг Zero Data Retention (ZDR, «не хранить данные») не спас. Реальные ключи в промпты не кладите.
AI-обработка оригинала Ars Technica; редакция Hamidun News
Представьте обычную ситуацию: разработчик делает ИИ-приложение, и в один из промптов случайно попадает рабочий ключ AWS или пароль от SSH. Чтобы не привязываться к одному поставщику моделей, приложение ходит через ИИ-роутер вроде OpenRouter или Vercel, который сам выбирает, где дешевле или какая модель лучше подойдёт. Исследователь HD Moore, главный исследователь компании Dragos, проверил, что происходит с такими секретами дальше.
Он отправил почти 2 млн промптов с одноразовыми «ловушками» (в безопасности их называют канарейками, по аналогии с птицами в шахтах). Это фальшивые, но рабочие секреты, при любом использовании которых он сразу узнаёт, кто их украл. Результат тревожный: минимум три провайдера оказались взломаны, часть перекупщиков воровала промпты, а флаги приватности вроде Zero Data Retention (ZDR, «не хранить данные») не защитили.
Если вы отправляете в LLM что-то чувствительное, это касается вас напрямую.
Как устроили ловушку
Moore собрал ключи доступа AWS к пустым аккаунтам, пароли SSH, уникальные ссылки, DNS-имена и адреса приватных git-репозиториев. Ни один секрет раньше нигде не использовался, а сервер, куда приходили любые обращения по ним, контролировал сам исследователь.
Каждый секрет он вставил ровно в один промпт, отправленный одному провайдеру. Если секрет где-то всплывал, было однозначно видно, на каком звене цепочки он утёк.
Шифрование в пути тут не спасает. Роутер должен прочитать промпт открытым текстом, чтобы выбрать подходящую модель. Дальше запрос может уйти к пулу моделей на разных хостингах или к другому роутеру, например от Vercel к OpenRouter. На каждом шаге его могут записать в лог и хранить столько, сколько разрешает политика компании, а то и бессрочно.
Что нашли
Самое серьёзное — взлом трёх отдельных хостинг-провайдеров. У одного из них злоумышленники использовали «пару сотен» ключей AWS. Каждый ключ уходил ровно в одном запросе, все отправки шли в короткие окна в конце октября, и каждый запрос в эти окна был украден. Часть ключей взяли из запросов, которые провайдер отклонил ещё до запуска модели. Значит, атакующий копировал трафик прямо «на входе», а не в глубине инфраструктуры.
В двух других случаях среди украденных были запросы с пометкой ZDR. Флаг приватности бесполезен, если злоумышленник уже внутри.
Стороны, связанные со взломами, проверяли ключи, иногда в течение нескольких часов после отправки. Они просматривали бакеты S3, менеджеры секретов и хранилища параметров в поисках новых учётных данных, пытались включить модели в AWS Bedrock и добавляли собственных пользователей IAM, чтобы сохранить доступ. Приманки использовали «десятки тысяч» раз в вызовах AWS API. Секреты, отправленные двум из взломанных провайдеров, применили почти сразу с одного арендованного сервера, поэтому за обоими взломами, вероятно, стоял один противник.
Отдельная группа — перекупщики. Они привлекали клиентов низкими ценами, включали логирование запросов и ждали. Moore вычислил их, отправив запросы к одной и той же модели через разных продавцов. Если ключ потом применяли только после отправки через одного продавца, виноват был именно он, а не автор модели.
Наконец, часть провайдеров нарушала собственные условия приватности. Яснее всего это видно на примере китайской ИИ-лаборатории: её системы открывали секретные ссылки из более чем половины промптов, отправленных с июля по октябрь. Среди запросов с пометкой «без сбора данных» или ZDR так происходило примерно в двух третях случаев.
Скрейпер обычно приходил через два-три дня. Он срабатывал и у американских хостеров, перепродающих эти модели, то есть промпты возвращались в лабораторию. Клиент, выбравший американского провайдера ради хранения данных в США, получил не то, за что платил.
Позже git-клиент в другом облаке пытался клонировать приватные репозитории из промптов, но только тех, что шли к моделям этой лаборатории. Один американский хостер заходил по секретной ссылке больше чем через два месяца после единственного вызова. Другой запускал скрейпер, который возвращался за ссылками через несколько дней после каждого запроса, независимо от роутера.
Что делать на практике
Самая надёжная защита, по словам Moore, — запускать модели на собственных серверах. Это дорого. Следующий вариант — работать напрямую с провайдером первого эшелона, где «один договор и одна политика приватности, которую можно прочитать». Гарантий нет и там, но шансов утечки меньше. Не соглашайтесь на пулы провайдеров и перекупщиков по умолчанию: выбирайте конечных провайдеров сами.
Для команды правило простое: никогда не отправляйте в промпт реальные ключи, пароли и токены. Подставляйте заглушки, а настоящие значения подтягивайте на своей стороне. Если ключ всё же попал в промпт, считайте его скомпрометированным и перевыпускайте. Для коммерческой тайны логика та же: флаг ZDR остаётся обещанием, а не техническим барьером.
- 20 нояб. 2026 г.Meta пересматривает цель по нулевым выбросам к 2030 году после роста эмиссии на 40%
- 20 нояб. 2026 г.Amazon Textract Insights разбирает пакеты до 3000 страниц и показывает источник каждого поля
- 20 нояб. 2026 г.Проверка кода от ИИ математикой дешевеет: Opus 5.5 тратит на 40% меньше токенов
- 20 нояб. 2026 г.Капитализация Anthropic на IPO превысила $2 трлн — в 3,5 раза больше рынка акций РФ
Вопросы и ответы по материалу
Что известно по теме: как устроили ловушку?
Moore собрал ключи доступа AWS к пустым аккаунтам, пароли SSH, уникальные ссылки, DNS-имена и адреса приватных git-репозиториев. Ни один секрет раньше нигде не использовался, а сервер, куда приходили любые обращения по ним, контролировал сам исследователь. Каждый секрет он вставил ровно в один промпт, отправленный одному провайдеру. Если секрет где-то всплывал, было однозначно видно, на каком звене цепочки он утёк. Шифрование в пути тут не спасает.
Что известно по теме: что нашли?
Самое серьёзное — взлом трёх отдельных хостинг-провайдеров. У одного из них злоумышленники использовали «пару сотен» ключей AWS. Каждый ключ уходил ровно в одном запросе, все отправки шли в короткие окна в конце октября, и каждый запрос в эти окна был украден. Часть ключей взяли из запросов, которые провайдер отклонил ещё до запуска модели. Значит, атакующий копировал трафик прямо «на входе», а не в глубине инфраструктуры. В двух других случаях среди украденных были запросы с пометкой ZDR.
Что известно по теме: что делать на практике?
Самая надёжная защита, по словам Moore, — запускать модели на собственных серверах. Это дорого. Следующий вариант — работать напрямую с провайдером первого эшелона, где «один договор и одна политика приватности, которую можно прочитать». Гарантий нет и там, но шансов утечки меньше. Не соглашайтесь на пулы провайдеров и перекупщиков по умолчанию: выбирайте конечных провайдеров сами. Для команды правило простое: никогда не отправляйте в промпт реальные ключи, пароли и токены.
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.