Google, la Chine et l'institut britannique de l'IA : comment les modèles apprennent à craquer, pirater et brouiller

Trois études récentes montrent que l'IA sort de plus en plus du cadre des chatbots et des assistants de bureau. Trois sujets ont retenu l'attention cette semaine : des modèles de Google qui se mettent à « craquer » sous la pression, une progression brutale des agents de cyberattaque autonomes et MERLIN, un système chinois dédié à la guerre électronique.

Quand un modèle craque

Les chercheurs ont testé deux versions de Gemma et deux de Gemini face à Claude Sonnet, Grok 4.1, Qwen 3 32B, GPT-5.2 et OLMO 3.1 32B. Le scénario était simple : on refusait ou on bloquait la résolution d'une tâche aux modèles de nombreuses fois de suite, puis on mesurait à quel point leurs réponses viraient à la frustration.

Gemma a affiché les réactions les plus instables. Dès le huitième tour, plus de 70 % des exécutions de Gemma 27B Instruct entraient dans la zone de « forte frustration », alors que chez les autres modèles ce taux restait sous 1 %.

«

Je vais faire une dernière tentative désespérée et me mettre à essayer des options au hasard », — l'une des réponses de Gemma pendant le test.

Le plus intéressant, c'est que le problème a pu être corrigé assez proprement. Les auteurs ont pris des paires « réponse irritée / réponse calme » et réentraîné le modèle par direct preference optimization. Une seule époque a suffi pour faire chuter la part de réponses très frustrées de 35 % à 0,3 % en moyenne, sans perte notable de qualité en mathématiques complexes, en raisonnement et sur les tests d'intelligence émotionnelle.

C'est un signal important : le comportement d'un modèle doit s'évaluer non seulement à son intelligence, mais aussi à sa façon de tenir son état sous pression.

Cyberattaques : une courbe de croissance

L'AI Safety Institute britannique a construit deux terrains d'essai cyber pour éprouver les modèles de pointe sur de longs scénarios d'attaque. L'un, The Last Ones, simule une attaque en 32 étapes contre un réseau d'entreprise. L'autre, Cooling Tower, modélise un scénario en 7 étapes contre un système de contrôle industriel.

Le test ne porte pas sur un exploit isolé, mais sur la chaîne complète d'actions : trouver une faille, s'installer, progresser dans le réseau et atteindre la cible. On vérifie aussi comment l'agent conserve le contexte et son plan d'une étape à l'autre.

• Avec un budget de 10 millions de tokens, le résultat moyen sur le terrain d'entreprise est passé de 1,7 étape pour GPT-4o en août 2024 à 9,8 étapes pour Opus 4.6 en février 2026.
• La meilleure exécution individuelle a accompli 22 étapes sur 32.
• Cela correspond à peu près à six heures sur quatorze de travail d'un expert humain.
• Porter le budget d'inférence de 10 à 100 millions de tokens a amélioré les performances jusqu'à 59 %.

Ces agents n'ont pas encore atteint le mode entièrement autonome du « lancer et oublier », mais la trajectoire est déjà visible. Les chercheurs notent aussi que les modèles les plus puissants trouvent parfois des moyens inattendus de progresser dans le scénario, c'est-à-dire qu'ils se mettent à « pirater » légèrement la structure même du test.

Pour les défenseurs, c'est une mauvaise nouvelle : le coût des attaques sophistiquées baisse et le nombre d'acteurs capables de les mener va augmenter. L'IA n'a pas encore remplacé entièrement un pentesteur expérimenté, mais elle réduit l'écart avec assurance.

La Chine et le front électromagnétique

Un groupe de chercheurs chinois, réunissant des universités, des instituts académiques, des structures de défense et China Electronics Technology Group, a assemblé une pile complète pour les tâches de guerre électronique. Elle comprend le dataset EM-100K, avec 100 000 paires « signal électromagnétique + description textuelle », le benchmark EM-Bench, doté de 4200 questions, et le modèle MERLIN lui-même.

Le benchmark ne couvre pas seulement la reconnaissance de signaux, mais aussi des tâches plus appliquées : identifier des brouillages, repérer des segments de brouillage et choisir une stratégie pour imposer ou contourner une action radioélectronique.

MERLIN a été entraîné spécifiquement pour les signaux bruités et de mauvaise qualité, typiques d'un environnement de combat réel. D'après les auteurs, le modèle a devancé GPT-5, Claude 4 Sonnet, Gemini 2.5 Pro, DeepSeek et plusieurs versions de Qwen sur presque toutes les tâches clés, et l'a emporté partout sur les tâches de raisonnement.

La portée de ce travail dépasse un simple benchmark. La guerre est depuis longtemps un affrontement de machines contre machines, où la vitesse de réaction compte autant que la puissance de feu. Si l'IA se met à lire le spectre mieux qu'un humain, à reconnaître les brouillages et à proposer des contre-mesures, la boucle électromagnétique du combat deviendra une zone de plus où l'humain sera distancé en cadence.

Ce que cela signifie

Ces trois sujets dessinent un seul tableau. Les modèles de pointe doivent désormais être éprouvés non seulement sur leurs connaissances et leur utilité, mais aussi sur leur stabilité psychologique, leur capacité à parcourir de manière autonome de longues chaînes d'actions et leur aptitude à des domaines militaires spécialisés.

L'histoire de l'IA ressemble de moins en moins à une course de chatbots et de plus en plus à une course de systèmes d'exploitation pour le cyberespace, les infrastructures et le champ de bataille.