Каталог ИИ-безопасности на GitHub за полгода получил 231 заявку, принято 157
Сергей Гордейчик после конференции ёPRSTCON завёл на GitHub список ИИ-инструментов для кибербезопасности, и за полгода в него прислали 231 заявку (PR — предложение добавить или поправить запись) от 209 авторов. Принято 157, отклонено 65, девять висели открытыми. Каждую заявку приходится читать по коду: «локальный» сканер может слать все исходники внешней модели. Вывод: выбирая защиту для агентов, верьте коду, а не README.
AI-обработка оригинала Habr AI; редакция Hamidun News
В мае на конференции ёPRSTCON договорились собрать в один список инструменты кибербезопасности на базе ИИ и средства защиты самих моделей и агентов. Задумывалась «записнушка» на 20 минут, а получился проект с очередью заявок: за полгода в репозиторий awesome-ai-security-tools прислали 231 pull request (PR — это предложение автора добавить или поправить запись в списке) от 209 авторов. Принято 157, закрыто без включения 65, девять оставались открытыми на 14 ноября. Для тех, кто строит ИИ-агентов или выбирает им защиту, это редкий срез: что сейчас появляется в нише и как проверять чужие инструменты.
Как «записнушка» превратилась в очередь на ревью
Конференция прошла 26 мая, а 27 мая появился первый коммит: 99 записей в основном списке и 11 ссылок на тематические подборки. Список сразу разделился на два направления. В первом ИИ помогает искать уязвимости, разбирать срабатывания систем защиты, исследовать исполняемые файлы и собирать сведения об угрозах. Во втором инструменты защищают модели, приложения и агентов от инъекций, утечек и нежелательных действий.
В июле пост в соцсетях пересказал подборку как «открытый арсенал из 300+ инструментов, от которого запаникуют все CISO», и шума стало заметно больше. 26 июля список занял десятое место в дневном рейтинге Python-проектов Trendshift, а к 23 сентября набрал 1500 звёзд. Заявок становилось всё больше: 5 в июне, 23 в июле, 40 в августе, 58 в сентябре, 64 в октябре и 41 за первые две недели ноября.
Как проверять инструменты и не пустить в ревью чужие команды
Всё чаще приходили похожие заявки: репозиторий создан вчера, один огромный коммит, нарядный README и громкие обещания. Отказывать по такому признаку мейнтейнер не хотел: иногда это вчерашний эксперимент, а иногда зрелый проект, который раньше жил в закрытом репозитории. Поэтому читают код. Так выясняется, что «сканер» на деле набор инструкций для агента, а инструмент, обещавший локальную работу, отправляет все исходники внешнему провайдеру модели.
Вопросы проверки простые. Что устанавливает пользователь и где идёт анализ? Какие данные уходят наружу? Нужны ли платный аккаунт и API-ключ? Что будет, если модель недоступна? Можно ли обойти контроль через другой интерфейс? Тесты проверяют сам защитный механизм или только его работу с моком? Агенты помогают читать реализацию и сверять обещания с кодом, но решение принимает человек: проверяющий агент тоже ошибается. Внешних кандидатов изучают без запуска их кода, установщиков и сценариев автоматизации на рабочей машине.
Полезные, но слишком молодые проекты отправляют в WATCHLIST.md. Сейчас там 276 репозиториев, их периодически пересматривают: выросшие переносят в основной список, заброшенные убирают. Заявки с плохим оформлением принимают с сохранением авторства и правят сами.
Отдельный урок касается безопасности самого ревью. Агент читает чужие README, комментарии и конфиги, а там могут быть указания выполнить команду или изменить CI. Поэтому чужой текст считают недоверенными данными. Пример: в PR #69 автор Lumi Eggcracker предложил добавить в CI проверку своего примера отчёта по своей же схеме. Каталогу это было не нужно. Злого умысла автор текста не видит, но что сделал бы агент без ограничений, неизвестно.
Что показывают цифры
Для анализа взяли 377 репозиториев основного списка на 14 ноября: инструменты, исследовательский код, бенчмарки и стандарты. 155 из них созданы в 2026 году. Больше всего новичков в агентном статическом анализе кода (18 из 24, 75%) и в безопасности агентов (75 из 106, 71%). Внутри последней контроль действий при выполнении — 46 из 64 (72%). В агентах для пентеста новых 9 из 28 (32%), в сборе сведений об угрозах 3 из 12 (25%), в атакующем тестировании и защите LLM 14 из 59 (24%), в фаззинге с помощью LLM 2 из 14 (14%).
В watchlist из 269 репозиториев с понятной датой создания 235 (87%) появились в 2026 году, а медиана среди 270 доступных — 14 звёзд. Крупнейшие группы: атакующие тесты и бенчмарки (45), проверки skills, MCP и зависимостей (42), разрешения и ограничения действий (35). Эти проекты отвечают на вопросы «кто разрешил это делать?», «что я ставлю вместе с этим skill?» и «как дать доступ без ключа в промпте?».
Ограничения автор оговаривает сам. Дата создания публичного репозитория не всегда совпадает с началом разработки. Тематические подборки и модели, опубликованные только на Hugging Face, в выборку не входят. Таблица показывает, где появляются проекты, но не качество методов: его нужно сравнивать на общих задачах.
Практический вывод: выбирая защиту для агентов, смотрите на список проверок и пропусков, а не на оценку A+ в отчёте. Проверяйте, нельзя ли обойти контроль через другой интерфейс. Не запускайте чужие установщики на рабочей машине. А если вы сами автор такого инструмента, присылайте его в список и читайте обратную связь: авторы и их агенты, по словам мейнтейнера, её действительно читают.
- 21 нояб. 2026 г.Вакансий FDE за год стало в 4,6 раза больше: что делает инженер у заказчика
- 21 нояб. 2026 г.Sakana AI открыла прикладную лабораторию для моделирования рынков и экономики
- 21 нояб. 2026 г.Meta готовит ИИ-тамагочи Muse Charm за $300 с годом 5G от Verizon
- 21 нояб. 2026 г.Dreamteam привлёк $53M на CRM, которая сама заполняется из почты и звонков
Вопросы и ответы по материалу
Что известно по теме: как «записнушка» превратилась в очередь на ревью?
Конференция прошла 26 мая, а 27 мая появился первый коммит: 99 записей в основном списке и 11 ссылок на тематические подборки. Список сразу разделился на два направления. В первом ИИ помогает искать уязвимости, разбирать срабатывания систем защиты, исследовать исполняемые файлы и собирать сведения об угрозах. Во втором инструменты защищают модели, приложения и агентов от инъекций, утечек и нежелательных действий.
Что известно по теме: как проверять инструменты и не пустить в ревью чужие команды?
Всё чаще приходили похожие заявки: репозиторий создан вчера, один огромный коммит, нарядный README и громкие обещания. Отказывать по такому признаку мейнтейнер не хотел: иногда это вчерашний эксперимент, а иногда зрелый проект, который раньше жил в закрытом репозитории. Поэтому читают код. Так выясняется, что «сканер» на деле набор инструкций для агента, а инструмент, обещавший локальную работу, отправляет все исходники внешнему провайдеру модели. Вопросы проверки простые.
Что известно по теме: что показывают цифры?
Для анализа взяли 377 репозиториев основного списка на 14 ноября: инструменты, исследовательский код, бенчмарки и стандарты. 155 из них созданы в 2026 году. Больше всего новичков в агентном статическом анализе кода (18 из 24, 75%) и в безопасности агентов (75 из 106, 71%). Внутри последней контроль действий при выполнении — 46 из 64 (72%).
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.