Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
Безопасность и правоAPI / Продукт · В работуThe Decoder→ оригинал

Google впервые поймала ИИ-агента, который сам ломает сайты без участия человека

Google Threat Intelligence Group впервые увидела атаку, где ИИ сам ищет уязвимость и сам её эксплуатирует, без человека в цепочке. На открытом сервере нашли фреймворк exploit_agent: он сравнивает код до и после патча, находит дыру, пишет эксплойт и запускает его. Google относит это к уровню 5 и ждёт более мощных атак через месяцы. Поэтому разрыв между выходом патча и его установкой надо сокращать.

AI-обработка оригинала The Decoder; редакция Hamidun News
Google впервые поймала ИИ-агента, который сам ломает сайты без участия человека
Источник: The Decoder. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникThe Decoder ↗
Главный редактор
Ключевой факт #1Цели — французские сайты СМИ, развлечений и образования
Ключевой факт #2Комментарии в конфигах на русском намекают на русскоязычного оператора
Скорость важнее скрытностиатаки оставляют следы, их проще заметить

Раньше ИИ в руках атакующих был помощником: написать фишинговое письмо, подсказать кусок кода, разобрать чужую уязвимость. Теперь Google говорит, что видела следующий шаг: цепочку, где человек вообще не нужен. Группа анализа угроз Google (GTIG) в отчёте AI Threat Tracker описала первый зафиксированный случай полностью автоматизированного поиска и эксплуатации уязвимостей.

Что нашли на сервере

GTIG обнаружила открытый сервер, на котором работал ИИ-фреймворк под названием exploit_agent. Он подключён сразу к нескольким языковым моделям и выполняет весь цикл сам.

Механика выглядит так. Когда разработчик выпускает патч, в коде остаётся след: можно сравнить версию до и после исправления и увидеть, что именно починили. Это старый приём, его называют сравнением патчей, и раньше им занимались специалисты вручную. Агент делает то же самое автоматически: берёт разницу в коде, определяет, какую уязвимость закрыли, разрабатывает эксплойт и запускает его против сайтов, которые ещё не обновились.

Простая аналогия: производитель замков выпустил обновление и написал, что исправил слабое место. Обычно взломщику надо долго выяснять, какое именно. Здесь программа сама сравнивает старый замок с новым, понимает, где был изъян, и идёт пробовать его на всех, кто не успел заменить замок.

По данным с сервера, цели оператора находились во Франции: сайты СМИ, развлекательных и образовательных проектов. В конфигурационных файлах нашлись комментарии на русском языке. Google осторожно говорит, что это указывает на русскоязычного оператора, но это косвенный признак, а не доказательство.

Почему Google называет это переломом

Google оценивает текущую активность как уровень 5. Так обозначена ситуация, когда ИИ-инструменты выполняют несколько этапов атаки при минимальном участии человека. В GTIG называют происходящее критическим поворотным моментом и предупреждают, что более мощные атаки появятся через считаные месяцы.

Главная проблема в скорости. Окно между выходом патча и его установкой у многих компаний измеряется днями и неделями. Пока для разбора патча нужен был опытный исследователь, это окно было относительно безопасным для массовых целей. Если разбор и написание эксплойта занимают у агента минуты и не требуют человека, каждый публичный патч становится сигналом для атаки на всех, кто задержался.

Утешительная деталь и выводы для практиков

Есть и хорошая новость. По оценке GTIG, такие автоматические атаки пока жертвуют скрытностью ради скорости. Агент действует шумно и оставляет заметные криминалистические следы, поэтому его проще обнаружить. Но это текущее состояние инструмента, а не гарантия: операторы могут научить следующие версии вести себя тише.

Что из этого следует для команд, которые отвечают за продукты и инфраструктуру. Это мои выводы из описанной механики, а не рекомендации из отчёта:

  • Сокращайте время установки критичных патчей. Если раньше неделя на тестирование была нормой, для публичных сервисов этот срок стоит пересмотреть.
  • Не оставляйте без присмотра старые и забытые сервисы. Автоматика не выбирает цели по важности, она просто проверяет всё подряд.
  • Усильте логирование и мониторинг. Раз агенты шумят, аномальные всплески запросов и повторяющиеся попытки эксплуатации стоит замечать и разбирать быстро.
  • Если вы строите ИИ-агентов с доступом к коду и сети, продумайте ограничения: что агент может запускать и куда подключаться.

Важно и то, чего в сообщении нет. Google не раскрывает, сколько сайтов реально были взломаны и насколько успешно агент находил рабочие эксплойты. Тревожный сигнал здесь сам факт: полный цикл от разбора патча до запуска эксплойта уже собран и работает на реальном сервере. Для защитников это значит, что готовиться придётся к противнику, который работает со скоростью машины.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что нашли на сервере?

GTIG обнаружила открытый сервер, на котором работал ИИ-фреймворк под названием exploit_agent. Он подключён сразу к нескольким языковым моделям и выполняет весь цикл сам. Механика выглядит так. Когда разработчик выпускает патч, в коде остаётся след: можно сравнить версию до и после исправления и увидеть, что именно починили. Это старый приём, его называют сравнением патчей, и раньше им занимались специалисты вручную.

Что известно по теме: почему Google называет это переломом?

Google оценивает текущую активность как уровень 5. Так обозначена ситуация, когда ИИ-инструменты выполняют несколько этапов атаки при минимальном участии человека. В GTIG называют происходящее критическим поворотным моментом и предупреждают, что более мощные атаки появятся через считаные месяцы. Главная проблема в скорости. Окно между выходом патча и его установкой у многих компаний измеряется днями и неделями.

Что известно по теме: утешительная деталь и выводы для практиков?

Есть и хорошая новость. По оценке GTIG, такие автоматические атаки пока жертвуют скрытностью ради скорости. Агент действует шумно и оставляет заметные криминалистические следы, поэтому его проще обнаружить. Но это текущее состояние инструмента, а не гарантия: операторы могут научить следующие версии вести себя тише. Что из этого следует для команд, которые отвечают за продукты и инфраструктуру. Это мои выводы из описанной механики, а не рекомендации из отчёта: Сокращайте время установки критичных патчей.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ ИИ-агенты на практике · Академия & Nomad

От чтения про ИИ-агентов — к запуску своего агента за вечер

Пошаговая сборка автономных агентов и MCP-связок в Hamidun Academy (academy.hamidun.com) (72 часа бесплатно) или мгновенный запуск готовых мультишаговых агентов в облаке Nomad.

Попробовать Академию (72ч бесплатно) →Запустить Nomad Agent
Что вы думаете?
Загружаем комментарии…