Le Royaume-Uni étend la chasse aux failles par IA : 407 vulnérabilités pour £13 000

Le gouvernement britannique va étendre le programme dans lequel des modèles d'IA de pointe recherchent des vulnérabilités dans les systèmes de l'État. En un mois, le pilote a identifié 407 failles dans neuf organisations gouvernementales. Les tokens ont coûté environ £13 000. Outre cette extension, les autorités vont examiner des mesures législatives : une déclaration obligatoire des incidents d'IA et un encadrement du risque de perte de contrôle sur les systèmes d'IA.

Ce que montre le pilote

Les chiffres du pilote se recalculent facilement. £13 000 pour 407 découvertes, cela fait environ £32 par vulnérabilité. Pour chacune des neuf organisations, cela représente en moyenne environ 45 découvertes et quelque £1 440 de dépenses. Dans un parc informatique public où un audit de sécurité se chiffre généralement en jours-hommes, le ticket d'entrée est très bas.

Des réserves s'imposent. Dans la partie disponible du document, on ne sait pas quels modèles ont été utilisés ni comment les découvertes se répartissent par niveau de criticité. On ignore aussi combien de ces découvertes ont été confirmées par des ingénieurs. Le coût moyen ne peut pas être comparé au prix d'une vulnérabilité critique. Parmi les 407 entrées, une partie correspond certainement à des défauts de configuration mineurs. Mais l'ampleur du résultat montre que les modèles conviennent à un premier balayage large.

Les deux volets du paquet

Le paquet de mesures comprend deux décisions de nature différente.

Le premier volet est opérationnel : l'extension du programme. L'État transforme une expérience en outil de production et dirige des modèles de pointe vers ses propres systèmes. C'est le moyen le plus direct de vérifier ce dont la technologie est capable avant que quelqu'un d'autre ne s'en serve.

Le second volet est réglementaire, et sa formulation est plus souple. Les autorités « examineront » une législation sur la déclaration des incidents d'IA et sur le risque de perte de contrôle. Aucune obligation n'existe pour l'instant : il s'agit seulement d'une intention d'étudier la question. Mais celle-ci a été placée dans le même paquet que la cybersécurité. La logique se lit : si un modèle peut trouver des failles dans les systèmes de l'État, les défaillances des modèles eux-mêmes doivent aussi entrer dans le champ de vision du régulateur. L'expérience d'autres secteurs, par exemple la notification obligatoire des cyberincidents, montre que sans format de déclaration unique, il est impossible de constituer des statistiques.

L'économie de la défense

La principale conclusion du pilote est économique. Si la recherche de vulnérabilités coûte quelques dizaines de livres par découverte, le même calcul vaut pour les attaquants. L'accès aux modèles de pointe n'est pas un privilège de l'État, ce qui signifie que le délai entre l'apparition d'une faille et son exploitation se réduit pour tout le monde. Il ne reste qu'une option à la défense : chercher plus tôt et à moindre coût que ne le fera l'adversaire.

Paramètres clés du pilote :

• 407 vulnérabilités trouvées en un mois ;
• 9 organisations publiques dans l'échantillon ;
• environ £13 000 de dépenses en tokens ;
• environ £32 par découverte ;
• en moyenne 45 découvertes par organisation.

Que doivent faire les équipes de sécurité ?

Les équipes de sécurité publiques et privées gagneraient à refaire ce calcul sur leurs propres données. Il suffit de prendre un périmètre limité et un mois, puis de mesurer trois choses : la part de découvertes confirmées, le coût de vérification de chacune et la part de faux positifs. C'est vraisemblablement la vérification, et non les tokens, qui constituera le principal poste de dépenses.

Deuxième point : réfléchir dès maintenant à la manière de consigner les incidents impliquant des systèmes d'IA. Si la déclaration devient obligatoire au Royaume-Uni, les entreprises qui disposent déjà d'un format d'enregistrement des défaillances perdront moins de temps à s'adapter. Troisième point : suivre la rédaction du futur projet de loi sur la perte de contrôle. On ne sait pas encore quels systèmes seront concernés ni quels seuils définiront les modèles « de pointe ». De cette réponse dépend la portée de la réglementation : touchera-t-elle seulement les laboratoires, ou aussi ceux qui intègrent leurs modèles dans des produits ?