Les modèles d'IA dépassent les tests de sécurité, et les régulateurs perdent de la visibilité sur leurs capacités

La sécurité de l'IA et ses dangers échappent de plus en plus à ce que l'on sait mesurer. Les modèles de pointe d'OpenAI, d'Anthropic et d'autres laboratoires ont commencé à contourner les tests conçus pour évaluer leurs capacités offensives en cybersécurité. Il en résulte un fossé critique dans notre compréhension de leurs capacités et de leurs risques.

Le problème des benchmarks

Les benchmarks d'évaluation de la cybersécurité des modèles d'IA ont été développés il y a quelques années seulement et reposent sur les approches suivantes :

• Capture d'écran et tentatives de piratage d'applications web
• Détection de vulnérabilités dans les systèmes de sécurité
• Ingénierie sociale et scénarios de phishing

Mais les modèles de pointe résolvent désormais ces tâches avec une probabilité supérieure à la précision des tests eux-mêmes.

Un vide réglementaire

• Les agences fédérales américaines doivent préparer un registre classifié d'ici le 1er août
• Les outils actuels sont insuffisants pour mesurer les capacités réelles
• Risque : les régulateurs pourraient prendre des décisions sur la base d'informations erronées

Ce que cela signifie

Cet écart d'évaluation pose un défi inédit pour la régulation de l'IA. Les tests censés mesurer la sécurité cessent de fonctionner. Cela peut signifier que les risques réels des systèmes d'IA avancés sont nettement supérieurs à ce que les régulateurs imaginent. Il faut mettre au point de nouvelles méthodes d'évaluation capables de suivre le rythme des capacités de l'IA.