Anthropic associe le nouveau modèle ouvert de Z.ai à un risque de cyberattaques à grande échelle

Anthropic a publié un rapport dans lequel elle affirme que le nouveau modèle puissant de la société chinoise Z.ai constitue une menace sérieuse pour la cybersécurité. Ce rapport est au cœur de la newsletter matinale The Download de MIT Technology Review du 13 octobre 2026. Le média s'en sert pour poser une question plus générale : les avantages réels des modèles ouverts l'emportent-ils sur leurs risques ?

Le fragment de l'article dont nous disposons ne donne ni le nom du modèle, ni benchmarks, ni description de scénarios d'attaque concrets. Nous distinguons donc ci-dessous ce que l'on peut affirmer avec certitude de ce qu'il faut vérifier à la source.

Ce que l'on sait à ce stade

• Origine de l'alerte : un rapport d'Anthropic, l'un des principaux développeurs de modèles frontier fermés.
• Cible des critiques : le nouveau modèle puissant de Z.ai, marque internationale de la société chinoise Zhipu AI, qui avait déjà publié les poids de ses modèles de la famille GLM.
• Thèse centrale : selon Anthropic, le modèle peut simplifier sensiblement les cyberattaques.
• Cadre du débat : MIT Technology Review met en balance les bénéfices des modèles ouverts et les risques liés à leur diffusion.
• Non précisé dans le fragment : la taille du modèle, la licence, les résultats des tests sur des tâches offensives, la méthodologie d'Anthropic.

Pourquoi l'ouverture complique le contrôle

Un modèle fermé dispose d'un point d'entrée par lequel transitent toutes les requêtes. Le fournisseur voit ce que l'on en fait, bloque des comptes, met à jour ses filtres et publie des rapports sur les abus. Anthropic détaille régulièrement de tels cas avec son modèle Claude.

Avec des poids ouverts, tout change. Une fois publiés, les fichiers sont téléchargés, copiés et exécutés sur les serveurs de chacun. Les garde-fous peuvent être affaiblis par un fine-tuning, et le développeur ne garde aucune trace de l'usage. Si le modèle est réellement efficace pour trouver des vulnérabilités ou écrire des exploits, il est impossible de le retirer.

Les arguments de l'autre camp

Les modèles ouverts ont de solides atouts. Les universités et les petites équipes peuvent étudier le fonctionnement interne des systèmes au lieu de se contenter de les utiliser via une API. Les entreprises les exécutent à l'intérieur de leur périmètre et n'envoient pas de données sensibles à un fournisseur externe. Les spécialistes de la défense obtiennent un outil pour tester leur propre infrastructure. Les capacités dont a besoin un attaquant sont aussi celles dont a besoin un défenseur.

Il faut aussi garder à l'esprit que ce rapport est écrit par un concurrent. Anthropic vend des modèles fermés en mettant en avant la sécurité, et elle a un intérêt commercial à ce que la discussion se place sur ce terrain. Cela n'invalide pas ses conclusions, mais c'est une raison de demander les données : sur quelles tâches le modèle a-t-il été comparé, dans quelle mesure surpasse-t-il les alternatives ouvertes déjà disponibles, et quel gain apporte-t-il à un attaquant par rapport aux outils classiques ?

Que doivent faire les équipes

Les équipes de sécurité doivent partir du principe que des modèles de niveau frontier à poids ouverts continueront d'apparaître, et l'intégrer à leur modèle de menace : recherche accélérée de vulnérabilités, hameçonnage automatisé, adaptation plus rapide du code malveillant. Les priorités sont claires : correctifs rapides, surveillance des anomalies et réduction du délai entre la publication d'une vulnérabilité et sa correction.

Les équipes qui choisissent un modèle pour leur produit gagneraient à lire le rapport d'Anthropic lui-même et à en confronter les conclusions à des évaluations indépendantes, plutôt que de s'appuyer sur un résumé. Si le déploiement du modèle de Z.ai est envisagé, il faut vérifier la licence, mener son propre red-teaming et décider où il fonctionne en interne et où il est accessible aux utilisateurs.

Ce même numéro de The Download aborde les perspectives de l'énergie géothermique, ce qui s'inscrit dans la discussion plus large sur l'énergie des datacenters. Cette partie de la newsletter n'est pas détaillée dans le fragment dont nous disposons.