Sakana AI открыла группу по кибербезопасности: заявок на CVE за 5 лет стало больше на 263%
Sakana AI запустила независимую группу по кибербезопасности: она изучает защиту с помощью ИИ-агентов и безопасность самих ИИ-систем. Повод — лавина уязвимостей: по данным NIST, заявок на CVE (номера публично известных дыр в ПО) за 2020–2025 годы стало на 263% больше. Дыры находят со скоростью машин, а чинят со скоростью организаций, поэтому ставка на проектирование без типовых ошибок. Разработчикам: закладывайте проверки безопасности в сборку.
AI-обработка оригинала Sakana AI Blog; редакция Hamidun News
Каждая найденная уязвимость в программе получает публичный номер CVE, и этих номеров становится всё больше. По данным американского института NIST, число заявок на CVE выросло на 263% между 2020 и 2025 годами, а начало 2026 года почти на треть превысило тот же период годом ранее. На этом фоне японская лаборатория Sakana AI объявила о запуске Security Research Group: отдельной исследовательской команды, которая изучает коллективную защиту с помощью ИИ-агентов и безопасность самих ИИ-систем.
Компания подчёркивает, что группа работает независимо от коммерческого бизнеса. Её задача — публиковать исследования, воспроизводимые бенчмарки и практические руководства, а также работать с государством, индустрией и университетами. Идея в духе Sakana: устойчивость возникает у коллектива, как у косяка рыб, а не у одиночного пловца.
Что происходит с уязвимостями
Цифры Sakana берёт из открытых источников. Японская база JVN iPedia, где собраны сведения об уязвимостях на японском, зарегистрировала в последнем квартале почти вдвое больше записей, чем годом ранее, и большинство из них пришло из американской базы NVD. Роль ИИ в этом росте авторы называют предполагаемой, а не доказанной. Организация FIRST упоминает поиск дыр с помощью ИИ наряду с административными причинами, а сотрудники NIST говорят, что ИИ-инструменты добавили им работы.
Нагрузка уже ощутима. NIST прекратил рутинный разбор старых записей и теперь занимается в первую очередь дырами, которые уже эксплуатируют. Японские финансовые регуляторы просят банки считать реакцию на уязвимости вопросом управления, в котором участвует топ-менеджмент. Формулировка Sakana: дыры находят со скоростью машин, а чинят со скоростью организаций, и расплачиваются за разрыв люди посередине.
Другая сторона тоже меняется. По описанию ФБР, атакующие используют ИИ-агентов и ведут вторжения сразу против множества целей. Сами ИИ-сервисы становятся мишенью: японский институт NICT зафиксировал больше сканирований адресов ИИ-сервисов в первом квартале 2026 года.
Почему одних патчей мало
Быстрее разбирать и закрывать уязвимости необходимо, но этого недостаточно. Обзор CISA за два финансовых года показывает, что злоумышленники чаще всего пользуются давно известными простыми слабостями, прежде всего ошибками проверки входных данных и работы с памятью. ФБР, описывая атаки ИИ-агентов, перечисляет SSRF (сервер делает запрос туда, куда его направил атакующий), IDOR (доступ к чужим данным подменой идентификатора), отсутствие аутентификации в API и инъекции.
Пример на пальцах: разработчик забыл проверить права на одну ручку API. ИИ найдёт эту дыру быстрее человека, её закроют патчем, но если в следующем релизе такую же проверку забудут снова, работа не закончится. Поэтому Sakana делает ставку на ранние этапы разработки: не гнаться за ошибками после релиза, а не допускать их при проектировании и сборке.
Безопасность предлагают считать частью качества продукта. Авторы ссылаются на модель Кано, где качество делится на три вида: то, что радует, когда есть; то, что растёт вместе с выполнением; и обязательное. Обязательное качество не замечают, пока оно есть, и сильно недовольны, когда его нет. Безопасность относится к последнему типу, а значит, её нужно закладывать в требования с самого начала, а не проверять в финале.
Три направления исследований
Первое — предотвращение через дизайн. Нужно заранее определить, какие свойства система обязана сохранять, и проверять их, пока она работает. Для автоматических исправлений нужны критерии, которые сама автоматика не может переписать, и возможность быстро откатить правку.
Второе — коллективная защита агентами. Атаки идут сразу по многим целям, а защита всё ещё организована по принципу «каждая организация сама за себя». Sakana хочет проверить, можно ли построить сеть защитных агентов в разных компаниях, чтобы атака, замеченная один раз, становилась защитой для всех участников. Открытыми остаются вопросы: что можно передавать и с чьего согласия, как доверять сигналу через границы вендоров и кто отвечает за действия агентов.
Третье — безопасность самого ИИ, начиная с агентов-защитников. Агенты, которые разбирают и закрывают уязвимости, получают привилегированный доступ, поэтому от их надёжности зависят первые два направления. Нужно ограничивать полномочия каждого агента рамками его задачи, прослеживать причины его действий и не давать защитным инструментам использоваться для нападения.
Что это значит для практиков
Это анонс намерений, а не результатов: готовых бенчмарков и методик у группы пока нет. Авторы сами оговаривают, что одной передовой модели мало: без настройки под конкретную среду и понимания всей системы она выдаёт ложные срабатывания и небезопасные исправления.
Практический вывод для разработчиков и продактов простой. Инструменты поиска уязвимостей на базе ИИ будут находить всё больше дыр, и выиграют те команды, которые меняют сам процесс сборки: добавляют проверки авторизации и входных данных на этапе проектирования, ограничивают права ИИ-агентов и умеют быстро откатывать автоматические правки.
- 21 нояб. 2026 г.Сбой Microsoft: почти 83 000 жалоб на Outlook в Downdetector, лежали Teams и Copilot
- 21 нояб. 2026 г.Нейросеть Claude Opus 5.5 достраивает хоррор Dimension 9 из 15 комнат автора
- 21 нояб. 2026 г.Microsoft сделала Copilot «ОС для работы»: Word и Excel стали плагинами агента
- 21 нояб. 2026 г.ИИ пишет уязвимый код в 44% тестов: Positive Technologies дала агентам сканер
Вопросы и ответы по материалу
Что известно по теме: что происходит с уязвимостями?
Цифры Sakana берёт из открытых источников. Японская база JVN iPedia, где собраны сведения об уязвимостях на японском, зарегистрировала в последнем квартале почти вдвое больше записей, чем годом ранее, и большинство из них пришло из американской базы NVD. Роль ИИ в этом росте авторы называют предполагаемой, а не доказанной. Организация FIRST упоминает поиск дыр с помощью ИИ наряду с административными причинами, а сотрудники NIST говорят, что ИИ-инструменты добавили им работы. Нагрузка уже ощутима.
Что известно по теме: почему одних патчей мало?
Быстрее разбирать и закрывать уязвимости необходимо, но этого недостаточно. Обзор CISA за два финансовых года показывает, что злоумышленники чаще всего пользуются давно известными простыми слабостями, прежде всего ошибками проверки входных данных и работы с памятью. ФБР, описывая атаки ИИ-агентов, перечисляет SSRF (сервер делает запрос туда, куда его направил атакующий), IDOR (доступ к чужим данным подменой идентификатора), отсутствие аутентификации в API и инъекции.
Что известно по теме: три направления исследований?
Первое — предотвращение через дизайн. Нужно заранее определить, какие свойства система обязана сохранять, и проверять их, пока она работает. Для автоматических исправлений нужны критерии, которые сама автоматика не может переписать, и возможность быстро откатить правку. Второе — коллективная защита агентами. Атаки идут сразу по многим целям, а защита всё ещё организована по принципу «каждая организация сама за себя».
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.