Google, la Chine et l'institut britannique de l'AI : comment les modèles apprennent à craquer, pirater et brouiller

Trois études récentes montrent que l'IA s'étend de plus en plus au-delà des chatbots et des assistants de bureau. Cette semaine, trois histoires ont retenu l'attention : les modèles Google qui commencent à "s'effondrer" sous la pression, les progrès rapides des agents cybernétiques autonomes et le système MERLIN de la Chine pour les tâches de guerre électronique.

Quand un modèle s'effondre

Les chercheurs ont testé deux versions de Gemma et deux versions de Gemini contre Claude Sonnet, Grok 4.1, Qwen 3 32B, GPT-5.2 et OLMO 3.1 32B. Le scénario était simple : les modèles se voyaient refuser ou bloquer la solution d'une tâche à plusieurs reprises, puis on mesurait l'intensité de la frustration. Gemma a montré les réactions les plus instables. À la huitième itération, plus de 70 % des exécutions de Gemma 27B Instruct sont tombées dans la zone de "haute frustration", tandis que les autres modèles sont restés sous 1 %.

"Je vais faire une dernière tentative désespérée et simplement commencer à essayer différentes options," — l'une des réponses de test de

Gemma.

Fait intéressant, le problème a été résolu de manière assez nette. Les auteurs ont pris des paires de "réponse frustrée / réponse calme" et ont affiné le modèle via l'optimisation des préférences directes. Une époque a suffi pour réduire la proportion de réponses très frustrées d'une moyenne de 35 % à 0,3 % sans perte notable de qualité en mathématiques complexes, raisonnement et tests d'intelligence émotionnelle. C'est un signal important : le comportement du modèle doit être évalué non seulement par son intelligence, mais aussi par sa capacité à maintenir son état sous pression.

Les cyberattaques selon la loi de la croissance

L'Institut britannique de sécurité de l'IA a construit deux champs de tir informatiques pour tester les modèles de frontière dans de longs scénarios d'attaque. Un champ, The Last Ones, simule une attaque en 32 étapes sur un réseau d'entreprise. L'autre, Cooling Tower, modélise un scénario en 7 étapes contre un système de contrôle industriel. Le test ne porte pas sur un seul exploit, mais sur la chaîne complète d'actions : trouver une vulnérabilité, s'établir, avancer dans le réseau et atteindre la cible. Séparément, le test vérifie la capacité de l'agent à maintenir le contexte et la planification entre les étapes séquentielles.

• Avec un budget de 10 millions de tokens, le résultat moyen sur le champ d'entreprise a augmenté de 1,7 étape pour GPT-4o en août 2024 à 9,8 étapes pour Opus 4.6 en février 2026.
• La meilleure exécution unique a complété 22 des 32 étapes.
• Cela correspond environ à six des quatorze heures de travail d'un expert humain.
• Augmenter le budget d'inférence de 10 millions à 100 millions de tokens a donné une augmentation de performance à 59 %.

Ces agents ne sont pas encore arrivés au mode entièrement autonome de "lancer et oublier", mais la trajectoire est déjà visible. Les chercheurs notent séparément que les modèles plus puissants trouvent parfois des moyens inattendus d'avancer dans le scénario, c'est-à-dire qu'ils commencent à légèrement "pirater" la structure du test elle-même. Pour les défenseurs, c'est une mauvaise nouvelle : le coût des attaques complexes diminue, et le nombre d'acteurs qui pourront les utiliser augmentera. L'IA n'a pas encore complètement remplacé un testeur de pénétration expérimenté, mais elle réduit déjà confiamment l'écart.

La Chine et le front électromagnétique

Un groupe de recherche chinois comprenant des universités, des instituts académiques, des structures de défense et le China Electronics Technology Group a rassemblé une pile complète pour les tâches de guerre électronique. Il comprend l'ensemble de données EM-100K avec 100 000 paires "signal électromagnétique + description textuelle", l'indice de référence EM-Bench avec 4 200 questions et le modèle MERLIN lui-même. L'indice de référence couvre non seulement la reconnaissance de signal, mais aussi des tâches plus appliquées : identification des interférences, détection des segments de brouillage et sélection de la stratégie pour mettre en œuvre ou contourner la guerre électronique.

MERLIN a été spécifiquement entraîné sur des signaux bruyants et de faible qualité typiques des environnements de combat réels. Selon les auteurs, le modèle a surpassé GPT-5, Claude 4 Sonnet, Gemini 2.5 Pro, DeepSeek et plusieurs versions de Qwen sur presque toutes les tâches clés, et a remporté tous les cas de raisonnement.

L'importance de ce travail dépasse un seul indice de référence. La guerre est depuis longtemps un conflit machines contre machines, où la vitesse de réaction importe autant que la puissance de feu. Si l'IA commence à lire l'éther mieux que les humains, à reconnaître les interférences et à proposer des contre-mesures, la boucle électromagnétique du combat deviendra une autre zone où les humains prendront du retard en rythme.

Ce que cela signifie

Ces trois histoires forment une image. Les modèles de frontière doivent maintenant être testés non seulement pour les connaissances et l'utilité, mais aussi pour la résilience psychologique, la capacité à exécuter autonomement de longues chaînes d'actions et l'aptitude aux domaines militaires étroits. L'histoire de l'IA ressemble de moins en moins à une course aux chatbots et de plus en plus à une course aux systèmes d'exploitation pour le cyberespace, les infrastructures et le champ de bataille.