Fable d'Anthropic, trop restrictive pour la cybersécurité

Des chercheurs et des spécialistes de la sécurité de l'information expriment un vif mécontentement à l'égard de Fable, le nouveau modèle d'Anthropic, mis à disposition du public. Le problème ne vient pas du modèle lui-même, réellement puissant et performant, mais de ses garde-fous. Les guardrails sont si stricts que même des professionnels ne peuvent pas utiliser Fable pour des tâches parfaitement légales de défense et d'analyse de systèmes.

Trop d'interdits pour un travail nécessaire

Fable est une nouvelle génération de modèle de langage puissant, fondée sur les recherches de pointe d'Anthropic. L'entreprise y a délibérément intégré de nombreuses restrictions pour prévenir les abus potentiels et les usages malveillants. Mais les guardrails se sont révélés si rigides et conservateurs qu'ils bloquent non seulement les requêtes dangereuses, mais aussi des recherches tout à fait légitimes.

Des spécialistes d'universités, de grandes sociétés de sécurité de l'information et de services d'entreprise indiquent qu'ils ne peuvent même pas demander au modèle de l'aide pour des tâches de base : analyse de vulnérabilités dans du code, élaboration de stratégies de défense d'infrastructures, discussion de méthodes de cyberdéfense. Pratiquement toute requête contenant des mots-clés comme "exploit", "vulnerability", "attack", "breach" ou "malware" est automatiquement rejetée.

La liste des opérations bloquées dont les professionnels ont besoin pour travailler comprend :

• La recherche de vulnérabilités dans les systèmes et les applications
• Les tests de résistance des défenses des réseaux d'entreprise
• L'analyse des méthodes de cyberattaques connues pour concevoir des défenses
• La création d'outils défensifs et de scripts de sécurité
• Le conseil professionnel en sécurité de l'information

Un dilemme classique : protection contre utilité

Le problème auquel Anthropic est confrontée est réel et complexe. D'un côté, il est crucial pour les entreprises qui développent des modèles de langage de protéger leurs systèmes contre ceux qui les utilisent à des fins malveillantes : création de malwares, organisation d'attaques contre des infrastructures, craquage de mots de passe et ingénierie sociale. De l'autre, les professionnels de la cybersécurité (défenseurs de systèmes, chercheurs en sécurité, pentesters) doivent avoir accès à des outils modernes et puissants. Ils utilisent l'IA pour analyser de gros volumes de code, repérer des schémas d'attaque et élaborer des stratégies de défense.

"On ne peut pas défendre des systèmes sans accès à des outils d'analyse des menaces réelles et actuelles", disent des chercheurs dans des discussions sur

Twitter et sur des forums spécialisés de la communauté de la cybersécurité.

Anthropic a buté sur le dilemme classique des modèles ouverts : comment ouvrir un système puissant aux chercheurs légitimes sans le mettre entre les mains de personnes aux intentions criminelles ? L'entreprise a opté pour une approche conservatrice : bloquer par défaut presque tout ce qui touche à la sécurité. En théorie, c'est le maximum de sécurité ; en pratique, l'utilité est minimale.

Les solutions envisagées par les experts

Certains spécialistes reconnus proposent des approches plus souples. Le modèle pourrait exiger une vérification supplémentaire pour les tâches de sécurité : contrôle des qualifications professionnelles, justification de l'appartenance à une organisation accréditée et processus de revue avant utilisation. D'autres suggèrent de créer une version distincte de Fable pour les spécialistes en cybersécurité, avec des guardrails plus souples, mais assortie de conditions d'utilisation adaptées et d'une surveillance permanente.

Ce que cela signifie pour l'industrie

La polémique sur les guardrails de Fable reflète un problème plus large pour toute l'industrie de l'IA. Les entreprises doivent trouver un équilibre entre la protection contre les abus et l'utilité des modèles pour des usages légitimes. Des restrictions trop strictes repoussent les experts qui pourraient aider à détecter les failles et à renforcer la sécurité. Les professionnels risquent alors de se tourner simplement vers d'autres outils, ce qui fragmenterait l'écosystème de sécurité au lieu de le renforcer.