Anthropic запустила бесплатный OSS Scanner после 29 000 найденных ИИ уязвимостей

Anthropic запускает OSS Scanner — добровольный сервис, в котором сильнейшие модели компании, включая Claude Mythos, периодически сканируют open-source проекты на уязвимости. Для проектов это бесплатно. Предыстория такая: за последние шесть месяцев в рамках Project Glasswing модели нашли более 29 000 кандидатов в уязвимости в важных программных проектах. Вручную проверить и отсортировать команда успела около 6 000. Остальное упирается в нехватку людей, которые могут подтвердить находки.

Почему понадобился отдельный сервис

За полтора года ситуация изменилась радикально. На академическом бенчмарке CyberGym доля найденных языковыми моделями уязвимостей выросла с менее чем 20% в начале прошлого года до более чем 85% в этом. Мейнтейнеры, которые раньше получали от LLM в основном мусор, теперь получают качественные баги.

В какой-то момент мейнтейнеры стали сами просить у Anthropic всё, что есть, даже непроверенное, вместе с предлагаемыми патчами. Почти 5 000 таких отчётов уже отправлено напрямую. Логика понятна: эксплойты теперь пишутся за минуты, и выигрывает тот, кто быстрее находит и закрывает дыру. Атакующие ищут те же слабые места.

Координированное раскрытие (CVD) с ручной проверкой никуда не девается. Оно остаётся основным путём для проектов, у которых нет ресурсов на самостоятельную сортировку отчётов. OSS Scanner добавляет к нему быструю полосу для тех, кто готов получать находки сразу.

Как работает сервис

Идея вдохновлена Google OSS-Fuzz, который ищет уязвимости в открытом коде с помощью фаззеров. От корпоративного продукта Claude Security, ориентированного на защиту систем компаний, OSS Scanner отличается бесплатным аудитом для open source. Главная оговорка: результаты полностью генерируются моделью, без проверки и сортировки людьми. Это ускоряет и учащает сканирование, но допускает ошибочные или невалидные отчёты.

• Модели: сильнейшие у Anthropic, включая Claude Mythos.
• Формат участия: opt-in, периодические сканы.
• Содержимое отчёта: самодостаточный воспроизводящий код, объяснение уязвимости, по возможности бисекция до коммита, где баг появился, и патч-кандидат.
• Пилот: несколько недель на десятках проектов, сотни отчётов, среди них цепочки уязвимостей, приводящие к удалённому выполнению кода без аутентификации.
• Стоимость для проектов: бесплатно.

Что говорят мейнтейнеры

Отзывы пилотных участников подтверждают качество. Ноа Мисч из PostgreSQL отмечает, что необычно высокая доля находок касалась реальных дефектов, а часть исправлений можно применять почти без правок. Fast-track позволил закрыть свежие проблемы до выхода GA-релиза. Антон Арапов из OpenSSL Corporation вспоминает, что ранние ИИ-отчёты полуторагодовой давности были ужасны. Отчёты от Anthropic, включая сырой вывод модели, по его оценке не хуже, а иногда лучше человеческих, особенно когда к ним приложен рабочий эксплойт, который можно проверить сразу.

У wolfSSL статистика такая: из 74 отчётов валидными оказались все, кроме двух, а пять превратились в CVE. Эдди Колер из HotCRP похвалил понимание сложной модели прав доступа и приоритизацию багов.

Для независимой проверки Anthropic попросила экспертов-пентестеров, которые обычно рецензируют находки для CVD, оценить 97 критических и высокосерьёзных уязвимостей из 48 проектов. Итоговая цифра в доступном тексте обрывается, поэтому опираться стоит на отзывы пилотных участников и приведённую статистику wolfSSL.

Что делать мейнтейнерам

Проектам с живой командой и налаженным процессом приёма отчётов имеет смысл подключиться. Отчёты с воспроизводящим кодом проверяются быстро. Но заранее нужно решить, кто будет разбирать поток и как отсеивать ложные срабатывания, потому что человеческой проверки на стороне Anthropic здесь нет. Небольшим проектам без ресурсов на сортировку разумнее остаться на классическом CVD с ручной верификацией. Всем остальным стоит исходить из того, что атакующие получают те же возможности моделей, поэтому темп исправлений теперь определяет безопасность.