Hugging Face : l'IA ouverte donne aux défenseurs les mêmes capacités qu'aux attaquants

Hugging Face a publié un long article sur la façon dont l'intelligence artificielle bouscule les rapports de force en cybersécurité, et sur les raisons pour lesquelles l'ouverture des modèles et des outils compte autant que leur puissance. Le texte s'articule autour de Mythos, un modèle de langage doté d'une infrastructure très spécialisée pour trouver et corriger des vulnérabilités.

Les auteurs soulignent que les capacités de tels systèmes ne sont pas linéaires. Un petit modèle intégré à un pipeline d'agents bien conçu, avec une expertise métier, peut rivaliser avec des solutions fermées bien plus grandes, ce qui est particulièrement précieux pour les défenseurs aux budgets limités.

L'argument central est l'avantage structurel des écosystèmes ouverts. Lorsqu'une vulnérabilité est découverte, le cycle comprend quatre étapes : détection, vérification, coordination et diffusion du correctif. Les éditeurs fermés parcourent les quatre au sein d'une seule organisation, ce qui crée un point de défaillance unique. Les communautés ouvertes répartissent chaque étape entre de nombreuses équipes : l'équipe de sécurité du noyau Linux, l'Open Source Security Foundation et les spécialistes de Hugging Face en sécurité de la chaîne d'approvisionnement des modèles. Un attaquant qui compromet un nœud n'arrête pas tout l'écosystème.

L'article s'attaque aussi au mythe de la « sécurité par l'obscurité ». Les auteurs notent que les outils d'IA peuvent déjà aider à rétroconcevoir des binaires sans code source. Une énorme masse de firmwares hérités et de code embarqué, fermé, binaire et non maintenu depuis longtemps, devient de plus en plus accessible à l'analyse automatisée. Le code fermé ne protège pas des attaques ; il ne fait que ralentir les défenseurs privés d'accès au code source.

Les auteurs proposent une architecture de défense concrète : des agents semi-autonomes fondés sur du code ouvert. L'agent agit dans des limites prédéfinies, les étapes critiques exigent une confirmation humaine et l'ensemble du comportement du système peut être audité via des journaux et des traces ouverts. « Un humain dans la boucle de contrôle n'a de sens que s'il peut regarder à l'intérieur de la boucle » : c'est la formule clé de l'article. Les systèmes fermés ne le permettent pas.

Pour les organisations qui manipulent des données sensibles, les solutions ouvertes offrent un avantage supplémentaire : on peut les exécuter entièrement dans sa propre infrastructure, les affiner sur des données internes et les configurer selon des exigences spécifiques, sans confier de données à des fournisseurs externes.

Les auteurs concluent que l'avenir de la cybersécurité par l'IA sera déterminé non par des modèles isolés, mais par les écosystèmes qui les entourent. Les systèmes ouverts offrent aux défenseurs visibilité, contrôle, communauté et infrastructure commune, exactement ce qui manque à une défense isolée reposant sur des outils propriétaires.