Старт 23 ноябряЖивой Поток 3 интенсива «Вайбкодинг и ИИ-агенты»: 3 недели практики, 9 живых занятийПоток 3 (23.11) →
Безопасность и правоAPI / Продукт · В работуTG: @ai_machinelearning_big_data (Machinelearning)→ оригинал

Google нашла ИИ-агентов, которые сами ищут дыры и взламывают сайты

Google Threat Intelligence Group нашла открытый сервер, где ИИ-агенты вели атаку от начала до конца без человека. Фреймворк использует несколько языковых моделей: сравнивает код до и после исправления, находит дыру, пишет эксплойт и запускает его. Жертвами стали французские сайты медиа, развлечений и образования. Поэтому патчи стоит ставить быстрее: после выхода исправления до атаки теперь может пройти совсем мало времени.

AI-обработка оригинала TG: @ai_machinelearning_big_data (Machinelearning); редакция Hamidun News
Google нашла ИИ-агентов, которые сами ищут дыры и взламывают сайты
Источник: TG: @ai_machinelearning_big_data (Machinelearning). Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникTG: @ai_machinelearning_big_data (Machinelearning) ↗
Главный редактор
Ключевой факт #1Комментарии в конфигурационных файлов сервера написаны по-русски
Ключевой факт #2Автоматика жертвует скрытностью ради скорости и оставляет следы для защитников
Ключевой факт #3Google ждёт более мощных атак такого типа через несколько месяцев

Раньше взлом сайта требовал живого человека на каждом шаге: найти уязвимость, разобраться в ней, написать код атаки, запустить. Теперь Google говорит, что видела всю эту цепочку, проделанную без человека. Специалисты Google Threat Intelligence Group обнаружили открытый сервер с фреймворком из ИИ-агентов, и компания считает это пороговым моментом в истории киберугроз. Для всех, кто выкладывает код в продакшн, это повод пересмотреть привычки с обновлениями.

Как устроена автоматическая атака

Фреймворк подключается сразу к нескольким языковым моделям и раздаёт им задачи. Первый шаг — сравнение версий программы до и после исправления. Когда разработчик выпускает патч, разница между старым и новым кодом буквально показывает, где была дыра. Человек-исследователь тратит на такой разбор часы. Агент делает это как рутину.

Дальше система находит саму уязвимость, пишет для неё эксплойт и запускает его против целей. Всё это происходит без участия оператора. Проще говоря, это конвейер: на входе выходит свежий патч, на выходе получается рабочая атака на тех, кто ещё не успел обновиться.

Судя по данным с сервера, целями были французские сайты в сферах медиа, развлечений и образования. Комментарии в конфигурационных файлах написаны по-русски. Это деталь из находки, но сама по себе она не доказывает, кто стоит за инфраструктурой, и в исходном пересказе авторство не уточняется.

Что в этой истории утешительного

Google прямо отмечает, что пока автоматика выбирает скорость, а не аккуратность. Агенты действуют шумно, оставляют следы, и по ним защитникам проще заметить атаку. Это важное отличие от целевых операций, где злоумышленники месяцами остаются незамеченными.

Но Google не успокаивает: компания прогнозирует более мощные атаки через несколько месяцев. Логика понятна. Модели становятся лучше в написании кода, а фреймворки учатся прятаться. Сегодняшний шум — особенность первого поколения таких инструментов, а не их постоянное свойство.

Что делать разработчикам и продактам

Первое: сократите время между выходом патча и его установкой. Если агент способен превратить свежее исправление в рабочий эксплойт автоматически, прежний запас «обновимся на следующей неделе» перестаёт быть безопасным. Критичные зависимости и публичные сервисы стоит обновлять в первую очередь, а процесс обновления лучше автоматизировать.

Второе: инвестируйте в обнаружение. Раз автоматические атаки пока шумные, логи, алерты на аномальные запросы и ограничение частоты обращений дают реальный шанс остановить их на раннем этапе. Это недорогие меры, которые сегодня работают лучше всего.

Третье: смотрите на свои сервисы глазами такого агента. Всё, что торчит наружу, включая забытые тестовые стенды, открытые панели и старые версии библиотек, становится мишенью быстрее, чем раньше. Инвентаризация внешней поверхности атаки превращается из формальности в практическую гигиену.

Четвёртое, для основателей и продактов: вопрос безопасности теперь связан со скоростью релизов. Команда, которая быстро выпускает исправления и быстро ставит чужие, оказывается в более выгодной позиции, чем команда с долгими согласованиями.

Ограничения

Известно немного. Мы знаем про один обнаруженный сервер, про круг целей и про общий принцип работы фреймворка. Нет данных о том, сколько атак оказались успешными, какие именно уязвимости использовались и насколько хорошо агенты справляются без подсказок. Полные технические детали опубликованы в блоге Google Threat Intelligence, и именно их стоит читать командам безопасности.

Тем не менее сигнал ясный. Полностью автоматическая цепочка «патч, уязвимость, эксплойт, запуск» перешла из теории в наблюдаемую практику. Защитникам придётся отвечать тем же: автоматикой в обновлениях и мониторинге.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: как устроена автоматическая атака?

Фреймворк подключается сразу к нескольким языковым моделям и раздаёт им задачи. Первый шаг — сравнение версий программы до и после исправления. Когда разработчик выпускает патч, разница между старым и новым кодом буквально показывает, где была дыра. Человек-исследователь тратит на такой разбор часы. Агент делает это как рутину. Дальше система находит саму уязвимость, пишет для неё эксплойт и запускает его против целей. Всё это происходит без участия оператора.

Что известно по теме: что в этой истории утешительного?

Google прямо отмечает, что пока автоматика выбирает скорость, а не аккуратность. Агенты действуют шумно, оставляют следы, и по ним защитникам проще заметить атаку. Это важное отличие от целевых операций, где злоумышленники месяцами остаются незамеченными. Но Google не успокаивает: компания прогнозирует более мощные атаки через несколько месяцев. Логика понятна. Модели становятся лучше в написании кода, а фреймворки учатся прятаться.

Что известно по теме: что делать разработчикам и продактам?

Первое: сократите время между выходом патча и его установкой. Если агент способен превратить свежее исправление в рабочий эксплойт автоматически, прежний запас «обновимся на следующей неделе» перестаёт быть безопасным. Критичные зависимости и публичные сервисы стоит обновлять в первую очередь, а процесс обновления лучше автоматизировать. Второе: инвестируйте в обнаружение.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ ИИ-агенты на практике · Академия & Nomad

От чтения про ИИ-агентов — к запуску своего агента за вечер

Пошаговая сборка автономных агентов и MCP-связок в Hamidun Academy (academy.hamidun.com) (72 часа бесплатно) или мгновенный запуск готовых мультишаговых агентов в облаке Nomad.

Попробовать Академию (72ч бесплатно) →Запустить Nomad Agent
Что вы думаете?
Загружаем комментарии…