SemiAnalysis: китайские ИИ-лаборатории почти не публикуют тесты безопасности моделей

Китайские разработчики ИИ почти не публикуют результаты проверок своих моделей на безопасность. К такому выводу пришла исследовательская компания SemiAnalysis. Она отмечает, что лаборатории из КНР крайне неохотно делятся информацией о том, как тестируют системы на опасное применение. Это происходит на фоне растущих по всему миру опасений, связанных с быстрым развитием передовых ИИ-моделей. Количественных данных из отчёта в доступном материале нет, но сам вывод важен: в сегменте, где конкуренция идёт за каждый процент на бенчмарках, раздел о рисках чаще всего остаётся пустым.

Чего не хватает в публичном поле

У крупных западных лабораторий сложилась практика. К релизу флагманской модели выходит system card или model card, где описаны оценки опасных возможностей, красные команды, результаты проверок на злоупотребления и ограничения. Содержание таких документов можно оспаривать, но у внешних экспертов есть материал для сверки. Китайские компании обычно публикуют техотчёты о архитектуре, обучении и результатах на тестах знаний, математики и кода. Разделов о том, как модель ведёт себя в сценариях биологических, кибер- и других серьёзных рисков, там мало или нет совсем.

Исключения существуют. В 2024 году на Сеульском саммите по безопасности ИИ добровольные обязательства подписали компании из разных стран, среди них китайская Zhipu AI. Но обязательство не равно отчёту. Без опубликованной методики и результатов проверить его выполнение нельзя.

Почему это болезненнее для открытых моделей

Значительная часть сильных китайских моделей выходит с открытыми весами. Для бизнеса это плюс: можно развернуть у себя, дообучить, не зависеть от API. Но у открытости есть оборотная сторона. Защитные ограничения, встроенные разработчиком, снимаются дообучением за небольшой бюджет. Поэтому оценка рисков до релиза и честная публикация её результатов оказываются единственным способом понять, от чего отталкиваются те, кто возьмёт модель дальше.

Независимые проверки уже показывали проблемы. В начале 2025 года исследователи Cisco сообщали, что DeepSeek R1 не заблокировала ни одного вредоносного запроса из набора HarmBench в их тесте. Американский институт NIST позже опубликовал собственную оценку DeepSeek с выводами об уязвимости к взлому и перехвату агентов. Такие работы делают внешние группы, а не сами разработчики, и это именно та асимметрия, о которой пишет SemiAnalysis.

Что известно из публикации

• Автор вывода: SemiAnalysis, исследовательская компания, специализирующаяся на ИИ и полупроводниках.
• Суть: китайские разработчики неохотно раскрывают информацию о тестах моделей на безопасность.
• Контекст: мировая тревога из-за темпов развития передовых ИИ-систем.
• Чего нет в доступной выдержке: списка проверенных моделей, названий компаний и числовых оценок.

Что делать командам, которые выбирают модель

Если вы внедряете китайскую модель в продукт, отсутствие публичного отчёта о безопасности означает, что оценку придётся проводить самому. Минимальный набор такой: собственный прогон на jailbreak-запросах, тест на prompt injection, если у модели есть доступ к инструментам, и проверка поведения на данных вашей отрасли. Для агентных сценариев стоит ограничить права доступа и вести журнал действий. Для open-weight версий добавьте внешний слой фильтрации на входе и выходе, не полагаясь на встроенные ограничения.

Запрашивайте у поставщиков документы напрямую. Если ответа нет, это тоже данные для оценки риска. А для рынка в целом вопрос простой: сможет ли раскрытие результатов проверок стать таким же стандартом, как публикация бенчмарков.