Anthropic : les petits modèles d'IA rendront possibles des vers auto-réplicants d'ici début 2027

Anthropic avertit que les progrès des petits modèles d'IA pourraient, dès le début de l'année prochaine, créer les conditions d'une propagation quasi incontrôlable de vers IA. Ce terme désigne des programmes qui se répliquent seuls et passent d'un appareil à l'autre sans intervention humaine. Selon l'entreprise, stopper une telle propagation sera extrêmement difficile. Les cibles potentielles citées sont les serveurs, les téléviseurs et l'électroménager. L'horizon évoqué se compte en mois, non en années.

Pourquoi les petits modèles inquiètent-ils tout particulièrement

Un ver classique exploite une vulnérabilité connue à l'avance. Son auteur doit savoir précisément ce qu'il veut attaquer et écrire un nouveau code pour chaque nouvelle plateforme. Un ver IA, si l'on suit la logique de l'avertissement d'Anthropic, peut au contraire s'adapter sur place : analyser un appareil inconnu, choisir une méthode d'intrusion, puis passer à la cible suivante.

Les grands modèles se prêtent mal à cet usage. Ils exigent des GPU puissants, beaucoup de mémoire et, en règle générale, un appel à une API cloud que le fournisseur peut tracer et couper. Un modèle compact fonctionne autrement. Il tient sur du matériel modeste, tourne en local et ne laisse aucune trace dans l'infrastructure d'autrui. C'est pourquoi les progrès de la miniaturisation des modèles sont à la fois une avancée technologique et un facteur de risque.

Ce que l'on sait et ce que l'on ignore encore

Le compte rendu public de l'avertissement contient peu de détails. Voici ce que l'on peut affirmer à partir des données disponibles :

• Auteur de l'avertissement : Anthropic, développeur de la famille de modèles Claude.
• Échéance : les conditions d'une propagation massive pourraient être réunies d'ici le début de l'année prochaine.
• Mécanisme : réplication autonome et infection de nouveaux types d'appareils sans intervention humaine.
• Cibles potentielles : serveurs, téléviseurs, électroménager.
• Évaluation de la défense : bloquer la propagation sera extrêmement difficile.
• Non divulgués : les modèles concernés, le nombre de paramètres, la méthodologie d'évaluation et la probabilité du scénario.

On ignore pour l'instant si la prévision s'appuie sur des expériences en laboratoire, sur une analyse des menaces ou sur de la modélisation. Sans rapport technique, il est difficile de distinguer une véritable évaluation du risque d'une précaution excessive.

Le phénomène n'est pas nouveau, mais l'échelle était différente

L'idée n'est pas neuve. En 1988, le ver Morris a mis hors service environ six mille machines sur un internet encore minuscule, montrant à quelle vitesse un code auto-propagateur échappe à tout contrôle. En 2024, des chercheurs de Cornell Tech ont présenté Morris II : un ver conçu pour les écosystèmes d'IA générative, qui s'est propagé en laboratoire via des assistants de messagerie reposant sur des modèles de langage, au moyen de prompts auto-réplicants. L'expérience s'est déroulée dans un environnement contrôlé, mais elle a confirmé le principe.

Autre problème : le parc d'appareils connectés a augmenté de plusieurs ordres de grandeur depuis. Téléviseurs, réfrigérateurs et routeurs sont rarement mis à jour et presque jamais surveillés. Pour un ver capable de raisonner sur place, c'est un terrain idéal.

Que faire dès maintenant

Les administrateurs de serveurs et les responsables d'infrastructure ont intérêt à appliquer une hygiène de base, utile que la prévision se réalise ou non :

• Dresser l'inventaire de tous les appareils connectés, y compris le matériel « intelligent » présent dans les bureaux.
• Isoler l'IoT dans des segments réseau distincts et lui interdire l'accès aux serveurs internes.
• Désactiver les services et interfaces distantes inutilisés, et changer les mots de passe d'usine.
• Activer la surveillance du trafic sortant : un appareil infecté se trahit par des connexions anormales.
• Restreindre les droits des agents IA : aucune exécution de code ni accès à la messagerie sans confirmation humaine.

Les développeurs d'agents IA gagneront à retenir les leçons de Morris II : tout texte lu par un agent est potentiellement une commande. Il reste à attendre le rapport technique d'Anthropic. Il déterminera si cet avertissement deviendra un modèle de menace exploitable par l'industrie ou s'il restera une thèse sans base probante.