Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
Безопасность и правоНаучная статья · В песочницуSakana AI Blog

Sakana AI открыла группу по кибербезопасности: заявок на CVE за 5 лет стало больше на 263%

Sakana AI запустила независимую группу по кибербезопасности: она изучает защиту с помощью ИИ-агентов и безопасность самих ИИ-систем. Повод — лавина уязвимостей: по данным NIST, заявок на CVE (номера публично известных дыр в ПО) за 2020–2025 годы стало на 263% больше. Дыры находят со скоростью машин, а чинят со скоростью организаций, поэтому ставка на проектирование без типовых ошибок. Разработчикам: закладывайте проверки безопасности в сборку.

AI-обработка оригинала Sakana AI Blog; редакция Hamidun News
Sakana AI открыла группу по кибербезопасности: заявок на CVE за 5 лет стало больше на 263%
Источник: Sakana AI Blog. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникSakana AI Blog
Главный редактор
Ключевой факт #1Начало 2026 года почти на треть выше прошлогоднего по числу CVE
Ключевой факт #2NIST перестал рутинно разбирать старые записи и занят эксплуатируемыми дырами
Ключевой факт #3Группа работает отдельно от бизнеса и обещает бенчмарки и руководства

Каждая найденная уязвимость в программе получает публичный номер CVE, и этих номеров становится всё больше. По данным американского института NIST, число заявок на CVE выросло на 263% между 2020 и 2025 годами, а начало 2026 года почти на треть превысило тот же период годом ранее. На этом фоне японская лаборатория Sakana AI объявила о запуске Security Research Group: отдельной исследовательской команды, которая изучает коллективную защиту с помощью ИИ-агентов и безопасность самих ИИ-систем.

Компания подчёркивает, что группа работает независимо от коммерческого бизнеса. Её задача — публиковать исследования, воспроизводимые бенчмарки и практические руководства, а также работать с государством, индустрией и университетами. Идея в духе Sakana: устойчивость возникает у коллектива, как у косяка рыб, а не у одиночного пловца.

Что происходит с уязвимостями

Цифры Sakana берёт из открытых источников. Японская база JVN iPedia, где собраны сведения об уязвимостях на японском, зарегистрировала в последнем квартале почти вдвое больше записей, чем годом ранее, и большинство из них пришло из американской базы NVD. Роль ИИ в этом росте авторы называют предполагаемой, а не доказанной. Организация FIRST упоминает поиск дыр с помощью ИИ наряду с административными причинами, а сотрудники NIST говорят, что ИИ-инструменты добавили им работы.

Нагрузка уже ощутима. NIST прекратил рутинный разбор старых записей и теперь занимается в первую очередь дырами, которые уже эксплуатируют. Японские финансовые регуляторы просят банки считать реакцию на уязвимости вопросом управления, в котором участвует топ-менеджмент. Формулировка Sakana: дыры находят со скоростью машин, а чинят со скоростью организаций, и расплачиваются за разрыв люди посередине.

Другая сторона тоже меняется. По описанию ФБР, атакующие используют ИИ-агентов и ведут вторжения сразу против множества целей. Сами ИИ-сервисы становятся мишенью: японский институт NICT зафиксировал больше сканирований адресов ИИ-сервисов в первом квартале 2026 года.

Почему одних патчей мало

Быстрее разбирать и закрывать уязвимости необходимо, но этого недостаточно. Обзор CISA за два финансовых года показывает, что злоумышленники чаще всего пользуются давно известными простыми слабостями, прежде всего ошибками проверки входных данных и работы с памятью. ФБР, описывая атаки ИИ-агентов, перечисляет SSRF (сервер делает запрос туда, куда его направил атакующий), IDOR (доступ к чужим данным подменой идентификатора), отсутствие аутентификации в API и инъекции.

Пример на пальцах: разработчик забыл проверить права на одну ручку API. ИИ найдёт эту дыру быстрее человека, её закроют патчем, но если в следующем релизе такую же проверку забудут снова, работа не закончится. Поэтому Sakana делает ставку на ранние этапы разработки: не гнаться за ошибками после релиза, а не допускать их при проектировании и сборке.

Безопасность предлагают считать частью качества продукта. Авторы ссылаются на модель Кано, где качество делится на три вида: то, что радует, когда есть; то, что растёт вместе с выполнением; и обязательное. Обязательное качество не замечают, пока оно есть, и сильно недовольны, когда его нет. Безопасность относится к последнему типу, а значит, её нужно закладывать в требования с самого начала, а не проверять в финале.

Три направления исследований

Первое — предотвращение через дизайн. Нужно заранее определить, какие свойства система обязана сохранять, и проверять их, пока она работает. Для автоматических исправлений нужны критерии, которые сама автоматика не может переписать, и возможность быстро откатить правку.

Второе — коллективная защита агентами. Атаки идут сразу по многим целям, а защита всё ещё организована по принципу «каждая организация сама за себя». Sakana хочет проверить, можно ли построить сеть защитных агентов в разных компаниях, чтобы атака, замеченная один раз, становилась защитой для всех участников. Открытыми остаются вопросы: что можно передавать и с чьего согласия, как доверять сигналу через границы вендоров и кто отвечает за действия агентов.

Третье — безопасность самого ИИ, начиная с агентов-защитников. Агенты, которые разбирают и закрывают уязвимости, получают привилегированный доступ, поэтому от их надёжности зависят первые два направления. Нужно ограничивать полномочия каждого агента рамками его задачи, прослеживать причины его действий и не давать защитным инструментам использоваться для нападения.

Что это значит для практиков

Это анонс намерений, а не результатов: готовых бенчмарков и методик у группы пока нет. Авторы сами оговаривают, что одной передовой модели мало: без настройки под конкретную среду и понимания всей системы она выдаёт ложные срабатывания и небезопасные исправления.

Практический вывод для разработчиков и продактов простой. Инструменты поиска уязвимостей на базе ИИ будут находить всё больше дыр, и выиграют те команды, которые меняют сам процесс сборки: добавляют проверки авторизации и входных данных на этапе проектирования, ограничивают права ИИ-агентов и умеют быстро откатывать автоматические правки.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что происходит с уязвимостями?

Цифры Sakana берёт из открытых источников. Японская база JVN iPedia, где собраны сведения об уязвимостях на японском, зарегистрировала в последнем квартале почти вдвое больше записей, чем годом ранее, и большинство из них пришло из американской базы NVD. Роль ИИ в этом росте авторы называют предполагаемой, а не доказанной. Организация FIRST упоминает поиск дыр с помощью ИИ наряду с административными причинами, а сотрудники NIST говорят, что ИИ-инструменты добавили им работы. Нагрузка уже ощутима.

Что известно по теме: почему одних патчей мало?

Быстрее разбирать и закрывать уязвимости необходимо, но этого недостаточно. Обзор CISA за два финансовых года показывает, что злоумышленники чаще всего пользуются давно известными простыми слабостями, прежде всего ошибками проверки входных данных и работы с памятью. ФБР, описывая атаки ИИ-агентов, перечисляет SSRF (сервер делает запрос туда, куда его направил атакующий), IDOR (доступ к чужим данным подменой идентификатора), отсутствие аутентификации в API и инъекции.

Что известно по теме: три направления исследований?

Первое — предотвращение через дизайн. Нужно заранее определить, какие свойства система обязана сохранять, и проверять их, пока она работает. Для автоматических исправлений нужны критерии, которые сама автоматика не может переписать, и возможность быстро откатить правку. Второе — коллективная защита агентами. Атаки идут сразу по многим целям, а защита всё ещё организована по принципу «каждая организация сама за себя».

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…