Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизРазбор · На радарX: @crazyMLguy→ оригинал

SingProbe от Ant Group: охранник на 8,1 млн параметров замедляет LLM менее чем на 0,5%

Обычно ответы чат-бота проверяет вторая модель-охранник — это дорого и тормозит стриминг. Ant Group выложила SingProbe: датчик на 8,1 млн параметров, который читает внутренние состояния Ling-3.1-flash-1019 и по каждому токену оценивает вред и галлюцинации. Нагрузка — менее 0,5%, а в потоковой проверке он обходит 8B-модели вроде Qwen3Guard-8B. Если вы хостите открытую модель, это повод протестировать его вместо отдельной модерации.

AI-обработка оригинала X: @crazyMLguy; редакция Hamidun News
SingProbe от Ant Group: охранник на 8,1 млн параметров замедляет LLM менее чем на 0,5%
Источник: X: @crazyMLguy. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникX: @crazyMLguy ↗
Главный редактор
Ключевой факт #1Лицензия MIT, работает внутри SGLang и vLLM без отдельного сервиса
Ключевой факт #28,1 млн параметров против 8 млрд у Qwen3Guard-8B — примерно в 1000 раз меньше
Ключевой факт #3Версии есть для DeepSeek-V4.1-Flash-1017 и других открытых моделей

Представьте, что вы запустили чат-бота на большой открытой модели. Чтобы он не выдавал опасные советы и не выдумывал факты, рядом ставят вторую модель — «охранника»: она читает запрос и ответ и решает, можно ли показывать текст пользователю. Это работает, но стоит видеопамяти и денег, добавляет задержку и плохо сочетается со стримингом: ответ уже выводится на экран, а охранник ещё думает.

Ant Group предложила другой путь и открыла SingProbe — крошечный датчик на 8,1 млн параметров, который встроен в саму модель Ling-3.1-flash-1019 (в заголовке анонса речь идёт о защите для LLM класса 560 млрд параметров). Он добавляет к работе модели менее 0,5% нагрузки и проверяет текст по ходу генерации, токен за токеном.

Токен — это кусочек текста, примерно слово или его часть.

Как работает SingProbe

Внешняя модель-цензор похожа на редактора, который читает готовую статью. SingProbe больше похож на датчик пульса, подключённый к самому автору: он замечает тревожные сигналы ещё до того, как слова прозвучали. Технически проба смотрит на скрытые состояния модели — внутренние числовые представления, которые сеть строит, пока пишет ответ. По ним она оценивает три вещи: вредный умысел в запросе, небезопасный вывод и галлюцинации, то есть уверенно поданные выдумки.

Оценка выставляется по каждому токену. Благодаря этому проблему можно заметить до того, как она появится у пользователя, и оборвать ответ на полуслове, а не фильтровать его задним числом.

Почему это важно инженерам

Первая причина — цена. По данным Ant Group, накладные расходы на инференс составляют менее 0,5%. Для сравнения: отдельная модель-охранник на 8 млрд параметров требует своей видеопамяти, своего развёртывания и своей очереди запросов. Проба на 8,1 млн параметров почти ничего не весит.

Вторая причина — интеграция. SingProbe работает нативно в SGLang и vLLM, двух популярных серверах для запуска моделей. Не нужно поднимать отдельный сервис модерации и синхронизировать его с основным потоком. Лицензия MIT разрешает использовать код в коммерческих продуктах без юридических сложностей.

Третья причина — качество. Ant Group заявляет, что в задаче потоковой проверки безопасности SingProbe обходит отдельные 8B-модели, включая Qwen3Guard-8B. Это заметное сравнение: Qwen3Guard — известный специализированный охранник, а здесь его опередил датчик примерно в тысячу раз меньше по числу параметров.

Кроме Ling, команда выпустила версии для DeepSeek-V4.1-Flash-1017 и других открытых моделей. Значит, сам подход не привязан к одной архитектуре.

Что стоит учитывать

Есть несколько оговорок. Во-первых, проба читает внутренности модели, поэтому работает только там, где у вас есть доступ к скрытым состояниям. С закрытыми API, которые отдают лишь текст, такой трюк не сделать. Во-вторых, судя по названию репозитория, каждая проба обучена под конкретную модель: версию для Ling нельзя просто приставить к другой сети. В-третьих, сравнение с Qwen3Guard в анонсе подано в общем виде. Прежде чем отказываться от текущего фильтра, прогоните SingProbe на собственных данных: ваши категории вреда, языки и типичные галлюцинации могут отличаться от тех, на которых мерили авторы.

Наконец, датчик не заменяет политику продукта. Он выдаёт оценку риска, а что с ней делать — обрывать ответ, подменять его или отправлять на проверку человеку — решает команда.

Что делать на практике

Если вы сами хостите открытую модель на vLLM или SGLang и платите за отдельный слой модерации, SingProbe стоит протестировать в ближайшие недели. Особенно это актуально для стриминговых чат-продуктов, где важна задержка и опасный ответ нужно останавливать сразу. Для команд, работающих через закрытые API, новость скорее ориентир: безопасность постепенно переезжает из отдельных моделей внутрь самих сетей, и это дешевле и быстрее.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: как работает SingProbe?

Внешняя модель-цензор похожа на редактора, который читает готовую статью. SingProbe больше похож на датчик пульса, подключённый к самому автору: он замечает тревожные сигналы ещё до того, как слова прозвучали. Технически проба смотрит на скрытые состояния модели — внутренние числовые представления, которые сеть строит, пока пишет ответ. По ним она оценивает три вещи: вредный умысел в запросе, небезопасный вывод и галлюцинации, то есть уверенно поданные выдумки. Оценка выставляется по каждому токену.

Что известно по теме: почему это важно инженерам?

Первая причина — цена. По данным Ant Group, накладные расходы на инференс составляют менее 0,5%. Для сравнения: отдельная модель-охранник на 8 млрд параметров требует своей видеопамяти, своего развёртывания и своей очереди запросов. Проба на 8,1 млн параметров почти ничего не весит. Вторая причина — интеграция. SingProbe работает нативно в SGLang и vLLM, двух популярных серверах для запуска моделей. Не нужно поднимать отдельный сервис модерации и синхронизировать его с основным потоком.

Что известно по теме: что стоит учитывать?

Есть несколько оговорок. Во-первых, проба читает внутренности модели, поэтому работает только там, где у вас есть доступ к скрытым состояниям. С закрытыми API, которые отдают лишь текст, такой трюк не сделать. Во-вторых, судя по названию репозитория, каждая проба обучена под конкретную модель: версию для Ling нельзя просто приставить к другой сети. В-третьих, сравнение с Qwen3Guard в анонсе подано в общем виде.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…