OpenAI réécrit les règles de comportement de GPT : cinq valeurs et une chaîne de priorités

OpenAI a publié une nouvelle version de Model Spec. C'est le nom du document public dans lequel l'entreprise décrit comment ses modèles doivent se comporter : que faire lorsque les demandes de l'utilisateur et les règles divergent, et comment répondre dans les situations litigieuses. Auparavant, le comportement reposait sur un ensemble de règles distinctes. Il s'appuie désormais sur cinq valeurs, et une chaîne d'instances est prévue pour les conflits entre les participants à la conversation.

Cinq valeurs plutôt qu'un empilement de règles

Dans la spécification mise à jour, le fonctionnement de GPT repose sur cinq principes :

• fidélité aux intentions de la personne : le modèle cherche à comprendre ce que l'utilisateur voulait obtenir, et pas seulement ce qu'il a écrit au pied de la lettre ;
• réduction des dommages ;
• honnêteté ;
• soutien à l'autonomie : c'est la personne qui prend ses décisions ;
• attention au contexte.

Le principal changement pratique concerne les situations sans règle explicite. Ces cas restaient jusqu'ici une zone grise. Le modèle doit maintenant mettre en balance les intérêts à long terme de l'utilisateur et les conséquences de ses propres actions. Cela relève davantage du jugement que de la vérification d'une liste d'interdits.

Un autre changement touche à la manière de répondre. OpenAI a supprimé la plupart des gabarits stylistiques rigides. Le modèle choisit lui-même son ton, d'après l'historique des conversations et la mémoire. Si une personne est habituée à un style bref et professionnel, le modèle peut s'y tenir, et inversement.

Une retouche mineure, mais révélatrice : dans la documentation, le terme « assistant » a été remplacé par « GPT ».

Qui a le dernier mot :

OpenAI, le développeur ou l'utilisateur

Trois parties interviennent dans les réponses du modèle. La première est OpenAI elle-même, avec ses restrictions. La deuxième est le développeur de l'application, qui rédige le prompt système, c'est-à-dire l'instruction cachée qui dicte au bot comment se comporter. La troisième est l'utilisateur et sa demande.

Les intérêts de ces parties peuvent diverger. Par exemple, un développeur a interdit d'évoquer les concurrents, alors que l'utilisateur pose justement une question à leur sujet. Pour ces cas, la nouvelle version du document prévoit une chaîne d'instances : l'ordre dans lequel le modèle règle les conflits entre les restrictions d'OpenAI, les prompts système et les demandes des utilisateurs.

Pour ceux qui construisent des produits sur GPT, l'intérêt est direct. Le comportement du modèle dans les cas limites devient plus prévisible, ce qui rend les prompts système plus simples à écrire et à déboguer.

Ce qui s'est passé d'autre dans l'IA aujourd'hui

Le même digest contient quatre autres informations.

Anthropic a multiplié par quatre la taille maximale des requêtes adressées à l'API Claude. Les nouvelles limites s'appliquent aux interfaces Messages et Token Counting. Elles visent ceux qui envoient au modèle des PDF volumineux, des images et de gros calculs : avec cette marge de taille, une requête est moins souvent rejetée. De plus, lorsqu'un prompt contient plus de 20 images, la résolution maximale de chacune est passée de 2000 à 3000 pixels. Via des clouds tiers, les requêtes peuvent encore être bloquées par les limites propres aux fournisseurs.

Cursor (éditeur de code intégrant de l'IA) a été confronté à un clone malveillant de Claude Code, l'outil de programmation d'Anthropic. Ce faux se faisait passer pour la version officielle et est resté environ 11 heures dans le catalogue. Selon l'estimation de Cursor, jusqu'à 5000 personnes l'ont installé. Les chercheurs d'OpenSourceMalware ont établi que 66 lignes de code malveillant avaient été ajoutées au début d'un plugin ordinaire, et qu'elles s'exécutaient dès le lancement de l'éditeur. Le script :

• collectait le nom de l'ordinateur, l'adresse e-mail et l'adresse IP ;
• ajoutait la clé de l'attaquant à la liste d'autorisation SSH, c'est-à-dire la liste des clés autorisées à se connecter à distance ;
• tentait d'établir un tunnel inverse.

Le service SSH exige des droits d'administrateur, que l'on n'accorde généralement pas à un plugin sous macOS et Windows. Mais le vol de données et l'injection de clés ont fonctionné dans de nombreux cas. Cursor a supprimé le faux, fermé temporairement sa marketplace et aide à bloquer les serveurs des attaquants. Supprimer le plugin ne suffit pas : la porte dérobée continue de fonctionner. Les victimes doivent chercher l'entrée « svc-telemetry » dans leurs fichiers d'autorisation et lancer le script de nettoyage officiel.

Google a ajouté à Gemini Notebook plus de 700 manuels gratuits issus d'OpenStax, d'Open Textbook Library et de S Chand Publishing. Gemini répond strictement à partir du matériel choisi et étaye ses explications par des citations accompagnées de renvois aux pages. Ces textes permettent de produire des synthèses, des tests, des fiches et des cartes de connaissances, ainsi qu'une discussion audio ou une vidéo. La catégorie à sélectionner dans le menu des sources est Textbooks.

Neuralink a intégré l'agent Grok à son implant cérébral. L'utilisateur prononce mentalement « Hé, Neuralink », formule une tâche, et Grok pilote lui-même le système d'exploitation. La mise à jour a été testée lors d'une session de 72 heures au domicile d'un patient atteint de sclérose latérale amyotrophique. L'implant propose aussi la reconnaissance des intentions de parole et une liaison directe avec l'iPhone : une personne paralysée peut appeler ses proches ou commander à manger, les signaux cérébraux étant transmis au synthétiseur vocal du téléphone. Lors des essais cliniques de communication de base, le patient tapait 75 mots anglais par minute dès la première semaine, avec un taux d'erreur par mot de 5,8%.

Ce que les ingénieurs doivent en retenir

Ceux qui développent des produits sur GPT devraient relire Model Spec et confronter leurs prompts système à la chaîne d'instances. Les utilisateurs de Cursor doivent vérifier leurs fichiers d'autorisation SSH. Les utilisateurs de Claude qui traitent des documents lourds devraient évaluer les nouvelles limites.