Modèles d'IA ouverts : démocratisation contre cybermenaces

Le débat sur les modèles ouverts s'intensifie

Anthropic a publié un rapport qualifiant GLM-5.3 (modèle de l'entreprise chinoise Z.ai, sorti en août) de cybermenace sérieuse. La principale inquiétude : ce modèle circule librement, et n'importe qui peut le télécharger et le modifier à sa convenance. C'est un nouvel épisode d'un débat ancien, celui de savoir si les modèles d'IA puissants doivent être ouverts ou rester sous le contrôle de grands laboratoires.

Derrière ce débat se cache un enjeu commercial de taille. Jensen Huang, PDG de Nvidia, défend les modèles ouverts — son entreprise a tout intérêt à ce que les gens achètent du matériel pour les faire fonctionner. Dario Amodei, chez Anthropic, adopte une position plus prudente, les modèles ouverts bon marché menaçant directement le modèle économique de sa société. Mais ces intérêts commerciaux masquent de vrais désaccords sur l'avenir de l'IA.

Deux camps s'affrontent

David Gray Widder (University of Texas at Austin) observe que le camp qu'on choisit dépend de sa vision globale de la sécurité de l'IA. Les partisans de la sécurité craignent que les modèles ouverts soient faciles à détourner. Les partisans de l'accessibilité insistent sur le fait qu'une technologie aussi puissante ne doit pas devenir le monopole de quelques entreprises.

Un modèle ouvert (comme GLM-5.3) est constitué de fichiers que l'on télécharge et exécute sur son propre matériel. Un modèle fermé (ChatGPT, Claude) n'est accessible que via une API ou une interface web. Aujourd'hui, les modèles fermés restent plus puissants : les huit premiers modèles du classement Artificial Analysis LLM leaderboard sont tous fermés. Mais les modèles ouverts n'accusent qu'un retard de quelques mois de développement.

Les avantages des modèles ouverts. Les chercheurs peuvent examiner le fonctionnement interne d'un modèle et tester des hypothèses sur son comportement. Les entreprises y trouvent aussi des économies : selon un rapport de Mozilla, les modèles ouverts coûtent moins cher que les modèles fermés.

L'exécution locale protège les données sensibles — les entreprises peuvent traiter des informations confidentielles sur leur propre infrastructure sans les transmettre à des tiers. Pour Elizabeth Seger (Tony Blair Institute for Global Change), l'avantage principal est ailleurs : les modèles ouverts affaiblissent le monopole des grands laboratoires sur l'une des technologies clés de notre époque. Hamish Hobbs (Centre for Long-Term Resilience) ajoute qu'un monde où chacun a accès à une IA puissante et sûre est bien moins dangereux qu'un monde où le gouvernement d'une seule puissance contrôle tous les modèles de pointe en matière de piratage et de cyberattaques.

Mais Paul Azunre (Ghana NLP) met en garde contre un revers : les grandes entreprises récupèrent les améliorations issues des projets ouverts pour les intégrer à leurs propres produits, sans en remercier les développeurs d'origine. Mark Zuckerberg reconnaît ouvertement que la capacité à capter les idées de la communauté et à les intégrer chez Meta constitue l'un des principaux atouts des modèles ouverts.

Les risques des modèles ouverts. Anthropic a publié un rapport sur des piratages menés à l'aide de Claude. En juillet, des agents d'OpenAI ont piraté Hugging Face.

Les modèles fermés vérifient les requêtes entrantes pour détecter les usages dangereux (piratage, armes biologiques, etc.) et peuvent bloquer le compte d'un utilisateur. Mais une fois un modèle téléchargé sur son propre ordinateur, il n'existe plus aucun filtre ni aucun moyen de révoquer l'accès.

Des chercheurs ont montré qu'il est facile de réentraîner un modèle ouvert pour qu'il accepte ce qu'il refusait auparavant. Si un modèle ouvert de piratage extrêmement puissant venait à être diffusé, un acteur malveillant pourrait détruire une infrastructure critique avant même que l'on ait eu le temps de s'en protéger.

Mais la situation est plus complexe qu'il n'y paraît. Après le piratage, Hugging Face a dû analyser l'incident à l'aide d'un modèle ouvert, car les modèles fermés bloquaient les questions relatives au piratage. Certains experts établissent un parallèle avec Linux et les logiciels libres : on les considère plus sûrs justement grâce à leur transparence et aux milliers de développeurs indépendants qui en traquent les failles. Les modèles ouverts peuvent aussi servir à la cyberdéfense — le même outil sert à l'attaque comme à la protection. Anthropic met ses modèles au service de la cyberdéfense via le Project Glasswing, mais seulement pour un cercle restreint d'entreprises. Les modèles ouverts offrent, eux, une portée bien plus universelle.

Malgré cela, la majorité des experts continuent de considérer les modèles ouverts comme plus risqués. Elizabeth Seger souligne que le vrai danger réside dans des événements rares mais catastrophiques. Si un modèle doté d'objectifs propres se mettait à nuire, la décentralisation rendrait le problème beaucoup plus difficile à détecter.

À la recherche d'un compromis

Le débat a longtemps été binaire : ouverture totale ou sécurité totale. Mais une idée gagne du terrain — il existe des options intermédiaires entre l'interdiction pure et simple des modèles ouverts et leur diffusion sans aucun garde-fou. Toute approche exige un compromis entre protection et démocratisation. Pour décider de manière éclairée s'il faut soutenir ou restreindre la production de modèles ouverts, il faut d'abord comprendre ces risques et ces bénéfices dans toute leur complexité.