SemiAnalysis : les laboratoires d'IA chinois publient presque aucun test de sécurité de leurs modèles

Les développeurs d'IA chinois ne publient presque pas les résultats des tests de sécurité de leurs modèles. C'est la conclusion de la société de recherche SemiAnalysis. Elle observe que les laboratoires de RPC rechignent fortement à partager des informations sur la manière dont ils testent leurs systèmes face aux usages dangereux. Ce constat intervient alors que les inquiétudes liées au développement rapide des modèles d'IA de pointe grandissent partout dans le monde. Le matériel accessible ne contient aucune donnée chiffrée issue du rapport, mais la conclusion elle-même compte : dans un secteur où la concurrence se joue au moindre pour cent gagné sur les benchmarks, la section consacrée aux risques reste le plus souvent vide.

Ce qui manque dans l'espace public

Les grands laboratoires occidentaux ont installé une pratique. À la sortie d'un modèle phare, ils publient une system card ou une model card qui décrit les évaluations des capacités dangereuses, les red teams, les résultats des tests d'usages malveillants et les limites du modèle. Le contenu de ces documents peut être contesté, mais les experts externes disposent au moins d'éléments pour recouper. Les entreprises chinoises publient en général des rapports techniques sur l'architecture, l'entraînement et les résultats aux tests de connaissances, de mathématiques et de code. Les sections qui décrivent le comportement du modèle dans des scénarios de risques biologiques, cyber ou autres risques graves y sont rares, voire absentes.

Il existe des exceptions. En 2024, lors du sommet de Séoul sur la sécurité de l'IA, des entreprises de différents pays ont signé des engagements volontaires, dont la société chinoise Zhipu AI. Mais un engagement ne vaut pas un rapport. Sans méthodologie ni résultats publiés, impossible de vérifier qu'il est tenu.

Pourquoi le problème est plus sensible pour les modèles ouverts

Une part importante des modèles chinois performants sort avec des poids ouverts. C'est un avantage pour les entreprises : elles peuvent les déployer en interne, les affiner et ne pas dépendre d'une API. Mais l'ouverture a un revers. Les garde-fous intégrés par le développeur se retirent par fine-tuning, pour un budget modeste. L'évaluation des risques avant la sortie, et la publication honnête de ses résultats, constituent donc le seul moyen de comprendre le point de départ de ceux qui s'empareront ensuite du modèle.

Des tests indépendants ont déjà mis au jour des problèmes. Début 2025, des chercheurs de Cisco ont indiqué que DeepSeek R1 n'avait bloqué aucune requête malveillante du jeu HarmBench lors de leur test. L'institut américain NIST a ensuite publié sa propre évaluation de DeepSeek, avec des conclusions sur sa vulnérabilité au jailbreak et au détournement d'agents. Ces travaux viennent de groupes externes, pas des développeurs eux-mêmes : c'est précisément l'asymétrie que décrit SemiAnalysis.

Ce que l'on sait de la publication

• Auteur de la conclusion : SemiAnalysis, société de recherche spécialisée dans l'IA et les semi-conducteurs.
• L'essentiel : les développeurs chinois divulguent à contrecœur des informations sur les tests de sécurité de leurs modèles.
• Contexte : l'inquiétude mondiale face au rythme de développement des systèmes d'IA de pointe.
• Ce que l'extrait accessible ne contient pas : la liste des modèles testés, les noms des entreprises et les évaluations chiffrées.

Que faire quand on choisit un modèle

Si vous intégrez un modèle chinois dans un produit, l'absence de rapport de sécurité public signifie que vous devrez mener l'évaluation vous-même. Le minimum : votre propre campagne de requêtes de jailbreak, un test de prompt injection si le modèle a accès à des outils, et une vérification de son comportement sur les données de votre secteur. Pour les scénarios agentiques, il vaut mieux restreindre les droits d'accès et tenir un journal des actions. Pour les versions open-weight, ajoutez une couche de filtrage externe en entrée et en sortie, sans vous reposer sur les restrictions intégrées.

Demandez directement les documents aux fournisseurs. Une absence de réponse est aussi une donnée pour évaluer le risque. Quant au marché dans son ensemble, la question est simple : la divulgation des résultats de tests deviendra-t-elle un standard aussi établi que la publication des benchmarks ?