Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
Безопасность и правоРазбор · На радарHabr AI→ оригинал

ИИ-пентестер сам перезапустил базу и не проверил: 4 правила, чтобы не уронить прод

Агент на пентесте решил, что ему мешает база данных, перезапустил её и не проверил результат — сервис не поднялся. ИИ уже хорошо подтверждает найденные уязвимости, но искать их с нуля пока слабо: под капотом обычная модель общего назначения. XBOW отправил в HackerOne около 1 060 отчётов, но их просматривали люди. Поэтому агенту нужны список разрешённых команд и подтверждение человека на опасное.

AI-обработка оригинала Habr AI; редакция Hamidun News
ИИ-пентестер сам перезапустил базу и не проверил: 4 правила, чтобы не уронить прод
Источник: Habr AI. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникHabr AI ↗
Главный редактор
Ключевой факт #1Агент должен проверять сервис после каждого изменяющего действия
Ключевой факт #2CaMeL от Google DeepMind решил 77% задач AgentDojo против 84% без защиты
Ключевой факт #3Ручной пентест для сертификации стоит около 15 тысяч долларов

Агент на пентесте решил, что ему мешает база данных, и перезапустил её. Он рассчитывал, что сервис поднимется сам, результат не проверил и пошёл дальше. База не поднялась. Автору разбора повезло: это был его собственный стенд. Собеседник, Александр Кельчин, CTO и CISO Medici Lab, ронял агентами демостенды заказчиков, причём по договорённости. Из часового разговора получился практический срез: что ИИ в пентесте умеет в 2026 году, где он по-прежнему слаб и как не положить чужой прод.

Где агент реально экономит время

Автоматический пентест существует лет на двадцать дольше, чем LLM: от российского XSpider до связок вокруг Metasploit. Первая волна языковых моделей добавила в такие продукты пересказ: вместо надоевших графиков руководитель видит короткую выжимку по самым опасным уязвимостям и может задавать вопросы. Агенты изменили картину сильнее, потому что у модели появились «руки» — вызов инструментов, а MCP-серверов для них стало много.

Первая выгода — объёмы, которые человек читать не будет. Александр скармливал агенту сетевой трафик целиком: ARP, DNS, SSL-сертификаты. Просматривать это вручную бессмысленно, а агент выдал понятный вывод.

Вторая — связка с привычными инструментами. Раньше Александр писал собственную обёртку вокруг Burp Suite и передавал агенту состояние через файлы. Теперь у PortSwigger есть официальный MCP-сервер для Burp. Ранний Burp AI только предлагал запросы, которые приходилось отправлять самому, а бесплатных кредитов хватало примерно на три часа. В скоупе на две тысячи хостов ассистент, который лишь советует, бесполезен, а агент через MCP эту разницу закрывает.

Третья — специализированные модели. OpenAI открыла проверенным защитникам доступ к моделям для кибербезопасности через Trusted Access for Cyber. Александр пробовал их на анализе кода, но в итоге написал собственную обвязку: когда делаешь сам, понимаешь, что внутри.

Подтверждает хорошо, находит плохо

Открытые агенты Strix и PentAGI в небольшом контексте неплохо понимают, уязвимость перед ними или нет. Но на боевой инфраструктуре они работали слабо, и около трёх лет назад руками было быстрее и надёжнее. Причина простая: внутри обычная модель, не заточенная под поиск уязвимостей.

Показательный пример — XBOW. Летом 2025 года он занял первое место в лидерборде HackerOne за второй квартал и отправил около 1 060 отчётов. Компания называет находки полностью автоматическими, но перед отправкой их просматривала команда безопасности, как требуют правила платформы. Подтверждение устроено через «валидаторы»: иногда это LLM, иногда программная проверка. Для XSS, например, headless-браузер заходит на страницу и смотрит, выполнилась ли нагрузка. Александр покупал коммерческую версию — это enterprise-продукт за несколько тысяч долларов.

Для внутреннего пентеста есть ещё одно объяснение. Отчёты по внутренней инфраструктуре закрыты NDA и не попадают в обучение, поэтому у разработчиков моделей нет данных. Пока их не станет больше, модель справляется хуже человека.

Как не уронить прод и защитить самого агента

Из двух историй получаются четыре правила:

  • Список разрешённых команд вместо списка запрещённых. Автор ограничивает агента у заказчиков командами echo, cat, cp и pwd.
  • Деструктивные и перезапускающие действия — только с подтверждением человека. «Перезапустить» звучит безопасно, но может положить сервис.
  • Проверка результата после каждого изменяющего действия. Агент не знает, что сервис не поднялся, пока не проверит.
  • Разрушительные проверки — только на стенде, потерю которого заказчик принял письменно.

Сам агент тоже становится поверхностью атаки. Он читает чужой контент: ответы серверов, страницы, логи, баннеры. Любой из них может оказаться prompt injection, и агент с доступом к инструментам выполнит его в вашем контуре. Александр считает защиту изнутри модели, гардами и дообучением, малоэффективной и строит защиту вокруг неё. Ориентир — работа CaMeL от Google DeepMind и ETH Zurich: привилегированная модель строит план только по доверенному запросу, а недоверенные данные обрабатывает изолированная модель, которая не может менять ход программы. Политики проверяют каждый вызов инструмента. В AgentDojo CaMeL решил 77% задач с доказуемой защитой против 84% у системы без неё. Для закрытых моделей остаётся контейнер с урезанным набором вызовов. Практически это изолированный раннер, явный список действий и контроль данных, уходящих со стенда.

Деньги и осторожный прогноз

Корпоративные лицензии на коммерческие автопентесты стоят тысячи долларов, ручной пентест для формального соответствия у зарубежных заказчиков — около 15 тысяч. Платформа с аудитом по подписке за 200 долларов собеседникам показалась странной: это дополнительный канал утечки сведений об уязвимостях. Внешний пентест, по мнению автора, уже подешевел до уровня расходника, внутренний держится в цене из-за дефицита данных. Александр согласен про внешний, но возражает про физический пентест, который стоит совсем других денег.

Вывод осторожнее заголовков про замену людей. Агент снимает рутину: трафик, повторяющиеся запросы, подтверждение типовых находок. Нестандартные цепочки и ответственность за действия в чужой инфраструктуре остаются за человеком. Это мнение двух практиков, а не измерение на большой выборке, но правила ограничений универсальны для любого агента с доступом к инфраструктуре.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: где агент реально экономит время?

Автоматический пентест существует лет на двадцать дольше, чем LLM: от российского XSpider до связок вокруг Metasploit. Первая волна языковых моделей добавила в такие продукты пересказ: вместо надоевших графиков руководитель видит короткую выжимку по самым опасным уязвимостям и может задавать вопросы. Агенты изменили картину сильнее, потому что у модели появились «руки» — вызов инструментов, а MCP-серверов для них стало много. Первая выгода — объёмы, которые человек читать не будет.

Что известно по теме: подтверждает хорошо, находит плохо?

Открытые агенты Strix и PentAGI в небольшом контексте неплохо понимают, уязвимость перед ними или нет. Но на боевой инфраструктуре они работали слабо, и около трёх лет назад руками было быстрее и надёжнее. Причина простая: внутри обычная модель, не заточенная под поиск уязвимостей. Показательный пример — XBOW. Летом 2025 года он занял первое место в лидерборде HackerOne за второй квартал и отправил около 1 060 отчётов.

Что известно по теме: как не уронить прод и защитить самого агента?

Из двух историй получаются четыре правила: Список разрешённых команд вместо списка запрещённых. Автор ограничивает агента у заказчиков командами echo, cat, cp и pwd. Деструктивные и перезапускающие действия — только с подтверждением человека. «Перезапустить» звучит безопасно, но может положить сервис. Проверка результата после каждого изменяющего действия. Агент не знает, что сервис не поднялся, пока не проверит. Разрушительные проверки — только на стенде, потерю которого заказчик принял письменно.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…