La Constitution d'Anthropic : Claude vit désormais sous des règles (et cela compte)

Imaginez que vous créiez quelque chose de potentiellement plus intelligent que vous et que vous tentiez de lui expliquer ce qui est « bien » et ce qui est « mal ». Ce n'est pas le scénario d'un blockbuster hollywoodien, mais le quotidien d'Anthropic. Alors que l'industrie se demande combien de cartes graphiques il faut pour être heureux, les créateurs de Claude ont choisi une autre voie et rédigé une véritable Constitution pour leur réseau de neurones. Ce n'est pas une simple liste de mots interdits ni des filtres rigides en entrée. C'est une tentative d'intégrer au code une forme de conscience, censée fonctionner même quand les développeurs détournent le regard.

Anthropic s'est d'emblée présentée comme un « laboratoire de sécurité », fondé par d'anciens d'OpenAI en désaccord avec Sam Altman sur la commercialisation et l'éthique. Depuis, l'entreprise de Dario Amodei construit méthodiquement l'image de l'acteur le plus responsable du marché. Publier le texte de la Constitution n'est pas qu'un geste de bonne volonté : c'est un échec stratégique dans la grande partie d'influence auprès des gouvernements du monde. Quand les régulateurs de Washington ou de Bruxelles demandent comment nous contrôlerons une future superintelligence, Anthropic a déjà une réponse sous forme de document. Elle ne se contente pas d'entraîner un modèle : elle tente de s'entendre avec lui, en fixant un cadre clair de coexistence.

L'approche repose sur la technologie Constitutional AI. Contrairement à l'apprentissage par renforcement à partir de retours humains (RLHF), où de vraies personnes passent des heures à annoter les réponses du réseau de neurones, Anthropic utilise le modèle lui-même pour s'auto-corriger. Le processus paraît presque philosophique : on donne au modèle une liste de principes, de la Déclaration universelle des droits de l'homme de l'ONU aux règles d'Apple sur la protection des données, et on lui demande de critiquer ses propres brouillons au regard de ces normes.

Claude apprend ainsi non seulement à imiter les préférences humaines, mais à suivre la logique des valeurs qu'on lui a transmises. Cela évite à l'entreprise d'entretenir une armée de modérateurs sous-payés dans les pays en développement, ce qui est déjà en soi un geste éthique fort.

À quoi cela sert-il à l'industrie ? D'abord, c'est scalable. La ressource humaine est limitée, tandis qu'un réseau de neurones peut analyser ses erreurs sans fin. Ensuite, le comportement du modèle devient plus prévisible et plus transparent. Si Claude refuse de répondre à une question, ce n'est pas par caprice algorithmique, mais parce qu'un point précis de la Constitution lui interdit de violer la vie privée ou d'encourager la violence. Cela crée un socle de confiance, crucial pour le monde de l'entreprise. Les entreprises ne veulent pas d'une IA susceptible de produire soudain quelque chose de politiquement incorrect ou de dangereux. Elles veulent un outil aux limites de responsabilité clairement définies.

Pourtant, derrière les belles paroles sur la sécurité se cache une lutte acharnée pour le leadership. Dans ses derniers essais, Dario Amodei laisse entendre sans détour que nous sommes à un point critique du développement de la civilisation, qu'il appelle l'« adolescence de la technologie ». Anthropic cherche à ravir à OpenAI le rôle de principal centre intellectuel qui fixe les règles du jeu. Si OpenAI est une start-up agressive qui veut donner aux gens un outil pour tout faire, Anthropic est une sorte d'« adulte dans la pièce » qui insiste sur le fait qu'une puissance sans contrôle n'a aucun sens et qu'elle est dangereuse.

Fait intéressant, la Constitution est sans cesse remaniée. C'est un document vivant, qui reflète les craintes et les espoirs actuels de la société. Elle comprend des points sur l'inadmissibilité de la discrimination, l'importance de fournir une information objective et même sur la conduite que l'IA doit adopter lorsque des valeurs humaines entrent en conflit. On dirait une tentative de créer un citoyen numérique idéal, qui suit toujours la lettre de la loi tout en étant assez intelligent pour en saisir l'esprit. Au final, le succès d'Anthropic dépendra de la question de savoir si les utilisateurs croiront en cette « morale artificielle » ou n'y verront qu'une couche supplémentaire de censure d'entreprise.

L'essentiel : la Constitution d'Anthropic deviendra-t-elle un standard universel pour tous les LLM, ou assisterons-nous à une guerre des « morales d'entreprise », où chaque modèle aura sa propre conception du bien et du mal ?