Claude Fable refuse de répondre aux questions de biologie, et c'est voulu

Anthropic a lancé Claude Fable 5, qu'elle présente comme le modèle le plus puissant jamais mis à la disposition du grand public. Mais ce modèle en apparence idéal présente une limite inhabituelle : il refuse de répondre aux questions de base en biologie et les renvoie vers un modèle plus ancien, mais plus conservateur, Claude Opus 4.8.

Le paradoxe d'un modèle puissant sous contraintes

Cette restriction semble étrange. Comment le modèle le plus puissant peut-il ne pas répondre à une question qu'un écolier saurait traiter ? Anthropic affirme que ce n'est pas parce que Fable ignore la réponse. L'entreprise l'a volontairement interdit. Le modèle intègre des mécanismes qui reconnaissent certains types de questions de biologie et les redirigent automatiquement vers Claude Opus 4.8.

Ce n'est ni un hasard ni un bug : c'est un élément intentionnel de l'architecture du modèle. Lorsqu'un utilisateur interroge Fable sur la structure de la cellule ou le mécanisme de la photosynthèse, il reçoit, au lieu d'une réponse directe, une suggestion de se tourner vers Opus.

Mythos : trop puissant pour un accès total

Fable appartient à la famille Mythos, un groupe de modèles qu'Anthropic a longtemps refusé de publier. Selon l'entreprise, ces modèles sont si performants sur les tâches de cybersécurité qu'ils représentent un risque potentiel. Ils trouvent trop facilement des vulnérabilités et pourraient être utilisés à des fins malveillantes.

Malgré ces craintes, la pression du marché et la demande des utilisateurs ont poussé Anthropic à lancer Fable 5. L'entreprise n'a toutefois pas voulu prendre tous les risques. Elle a ajouté une série de restrictions et de contrôles de sécurité.

• Le modèle est exceptionnellement fort en cybersécurité
• Anthropic redoutait un accès totalement ouvert
• Fable 5 est lancé avec des restrictions intégrées
• Les questions de biologie ne sont qu'un exemple de ces restrictions

C'est la première fois qu'Anthropic publie ouvertement un modèle de classe Mythos sous une forme limitée. Cette décision traduit la volonté de l'entreprise de trouver un équilibre entre innovation et responsabilité.

Comment cela fonctionne en pratique

Le système repose sur une logique relativement simple. Lorsqu'un utilisateur pose une question de biologie, Fable la reconnaît et ne génère pas de réponse. Il propose à la place de passer à Claude Opus 4.8. Ce n'est pas tout à fait un blocage : l'utilisateur peut toujours obtenir l'information, mais via un autre modèle.

L'approche rappelle les contrôles intermédiaires des systèmes critiques. Anthropic dit en somme à ses utilisateurs : « Nous lançons un modèle puissant, mais dans certains domaines, nous vous orienterons vers une option plus éprouvée. » C'est une combinaison d'innovation et de gestion prudente du risque.

Ce que cela signifie pour l'industrie de l'IA

La restriction de Fable illustre un dilemme croissant dans l'IA : comment donner accès à des technologies puissantes sans créer de risques ? La question n'est pas simple et il n'existe pas de réponse tranchée. Anthropic a choisi la voie de l'ouverture partielle : publier un modèle puissant, mais avec des « freins » intégrés sur certaines capacités.

Cette approche pourrait servir de modèle à d'autres entreprises. Lorsqu'elles lanceront leurs propres modèles puissants (et les concurrents d'Anthropic y travaillent déjà), elles ajouteront probablement des restrictions similaires. Ce pourrait devenir la nouvelle norme : publier des modèles forts, mais dotés d'un conservatisme intégré.