OpenAI explique le fonctionnement du Model Spec, le code de conduite de ses IA

OpenAI a publié une description détaillée de son approche du Model Spec, un document interne qui formalise les valeurs et les règles de comportement de ses modèles. C'est la première tentative de la plus grande entreprise d'IA d'expliquer publiquement la logique que suivent GPT-4o, o3 et les futurs systèmes lorsqu'ils prennent des décisions.

Le Model Spec n'est pas un document technique. Il ressemble davantage à une constitution : un ensemble de principes qui fixent les priorités quand les objectifs de l'utilisateur, de l'opérateur et d'OpenAI entrent en conflit.

La hiérarchie se présente ainsi. En premier vient la sécurité au sens large : le modèle ne doit pas favoriser des actions susceptibles de nuire à l'humanité à l'échelle mondiale. En deuxième, l'éthique au sens large : respect des normes morales, honnêteté, refus de manipuler. En troisième, la conformité aux principes d'OpenAI. Et seulement en quatrième position, l'utilité pour l'utilisateur concerné.

Cela signifie que, dans les cas limites, l'utilité perd. Si une requête paraît anodine mais comporte un risque systémique, le modèle doit refuser.

OpenAI reconnaît toutefois sans détour que l'excès de prudence pose autant de problèmes que l'imprudence. Les modèles qui refusent de répondre à des questions légitimes, ajoutent des avertissements inutiles ou adoptent une posture moralisatrice sapent la confiance et la valeur du produit. L'entreprise signale clairement que l'objectif est l'équilibre, et non un durcissement maximal des restrictions.

Le document décrit un système de confiance à trois niveaux. OpenAI fixe des règles de base qui ne peuvent pas être contournées. Les opérateurs, c'est-à-dire les entreprises et les développeurs qui utilisent l'API, peuvent ajuster le comportement du modèle dans ce cadre : ils peuvent autoriser un contenu bloqué par défaut ou ajouter des restrictions supplémentaires pour leur public. Les utilisateurs agissent dans les limites définies par l'opérateur. Plus il y a de contexte et de confiance vérifiée, plus la marge de manœuvre est large.

Un volet distinct du document porte sur les états internes du modèle. OpenAI n'affirme pas que ses modèles possèdent une conscience ou une expérience subjective, mais n'écarte pas non plus complètement cette possibilité. Le Model Spec indique que les modèles peuvent avoir quelque chose comme des émotions fonctionnelles : non pas au sens de vécus réels, mais comme des états internes qui influencent le comportement. L'entreprise s'engage à étudier sérieusement la question, sans la clore par la formule « ce n'est que de la statistique de texte ».

Face à une pression réglementaire croissante, avec l'EU AI Act, les décrets présidentiels aux États-Unis et les initiatives au Royaume-Uni et au Japon, les entreprises capables d'expliquer la logique de leurs systèmes obtiennent un avantage concurrentiel. Le Model Spec est un outil de redevabilité. Quand un régulateur demande « pourquoi votre modèle a fait X », OpenAI dispose désormais d'un cadre public pour répondre. Quand un client professionnel exige un comportement prévisible, le document fournit une base pour cette discussion.

Le Model Spec modifie aussi les standards du secteur. Anthropic a publié Constitutional AI et ses principes de sécurité. Google DeepMind diffuse régulièrement des articles sur la sécurité. OpenAI rend désormais son approche tout aussi transparente, et cela devient une exigence tacite pour tout acteur sérieux. Les entreprises dépourvues d'un tel document passent de plus en plus pour des partenaires moins fiables.

Pour les utilisateurs, le Model Spec signifie une chose : le comportement de ChatGPT et des modèles de l'API devient plus prévisible. Si quelque chose fonctionne de façon inattendue, on peut consulter le document et comprendre quel principe a joué. Ce n'est pas la garantie de réponses parfaites, mais c'est de l'honnêteté sur les compromis intégrés au système.