Anthropic et les agents IA en cybersécurité : ce qu'ils savent faire, où ils échouent

Anthropic a publié une étude sur l'application des agents IA aux tâches de cybersécurité. Edgar Sipki, auteur sur Habr et fondateur de easyp & sipki tech, s'est attaqué au document pour poser une question qui dérange : jusqu'où peut-on faire confiance à ces agents en pratique ?

Ce que dit Anthropic

L'entreprise a testé des agents Claude sur un large éventail de tâches de sécurité de l'information : analyse statique de code, recherche de vulnérabilités, construction de modèles de menaces et évaluation de la sécurité de l'infrastructure. Dans les scénarios types, les agents ont obtenu des résultats supérieurs au niveau d'un spécialiste moyen. Ils ont traité plus vite de grandes bases de code et repéré des schémas de vulnérabilités courants, faciles à manquer lors d'une revue manuelle menée dans l'urgence.

Domaines où les agents apportent déjà un bénéfice concret :

• Analyse statique de code : recherche d'injections SQL, de XSS, de dépendances non sûres et de secrets codés en dur
• Construction automatique de modèles de menaces pour les nouveaux services
• Pentest accéléré : l'agent cartographie la surface d'attaque, le spécialiste se concentre sur les vecteurs complexes
• Rapports de risques détaillés et recommandations pour prioriser les correctifs
• Surveillance des changements dans la base de code pour détecter des régressions de sécurité

Sur le papier, c'est convaincant. Mais en y regardant de plus près, le tableau se complique.

Où les agents échouent

Le principal problème, c'est la qualité sur les cas limites. Les agents hallucinent des vulnérabilités qui n'existent pas et, en même temps, passent à côté de problèmes réels masqués par du code atypique ou une logique métier spécifique.

En cybersécurité, c'est particulièrement grave. Un faux positif fait perdre des ressources à l'équipe, mobilisée sur une menace inexistante. Un faux négatif laisse une vraie faille ouverte et crée en plus un faux sentiment de sécurité. Le second scénario est pire que l'absence totale de contrôle : il endort la vigilance.

Autre faiblesse : le contexte système limité. L'agent ne voit que ce qu'on lui fournit. Les vulnérabilités liées à l'interaction de plusieurs composants, aux spécificités du déploiement ou à un environnement cloud précis lui échappent souvent, car elles supposent de comprendre toute l'architecture, et non des fichiers isolés.

Les droits d'accès, un problème à part

Voici une question sérieuse qui apparaît rarement dans les documents marketing : de quelles permissions un agent a-t-il besoin pour travailler efficacement en sécurité ? Un scan complet de l'infrastructure exige des droits étendus. Or ces droits étendus constituent en eux-mêmes un vecteur d'attaque : si l'agent est compromis ou commet une erreur aux conséquences lourdes, l'ampleur du problème grandit vite.

Anthropic recommande le principe du moindre privilège et des environnements isolés pour les tâches de sécurité confiées à des agents. Mais une bonne configuration demande du travail d'ingénierie supplémentaire, et sous la pression des délais, on la saute souvent. C'est précisément la faille que l'agent est censé combler.

«

Les agents ne remplacent pas les spécialistes de la sécurité, ils sont un outil pour accélérer leur travail » : c'est la thèse centrale de l'étude d'Anthropic.

Ce que cela signifie

Les agents IA sont déjà utiles pour les tâches de sécurité routinières : revue de code classique, scan initial, préparation de rapports. Mais leur confier une autonomie sur une infrastructure critique reste prématuré.

La conclusion principale, que partage Edgar Sipki : les agents changent l'outillage d'une équipe de sécurité, pas sa composition. L'humain dans la boucle reste obligatoire, surtout là où le coût d'une erreur est élevé.