Le « dreaming » d'Anthropic : pourquoi les entreprises d'IA doivent cesser d'anthropomorphiser leurs fonctions

Lors d'une conférence pour développeurs, Anthropic a présenté une nouvelle fonction pour agents IA : ils peuvent désormais « rêver » et traiter leurs « souvenirs ». Mais un journaliste avertit qu'il est temps que les entreprises cessent de faire passer des processus machine pour des capacités humaines.

Ce qui s'est passé chez Anthropic

Lors d'une rencontre pour développeurs, Anthropic a annoncé une fonction baptisée "dreaming" pour les agents IA. Concrètement, l'agent peut retravailler son contexte et ses "souvenirs" (en réalité, des données en mémoire) pour mieux analyser une tâche. Cela semble intéressant. Mais le nom relève du pur marketing. En réalité, l'algorithme réindexe les données dont il dispose. Ce n'est ni du sommeil, ni un rêve, ni de l'inconscient. C'est du calcul. Mais "dreaming" sonne mieux que "réindexation du contexte", et l'entreprise a donc choisi ce mot.

Une vague d'anthropomorphisme

Ce n'est pas le premier cas. Il y a quelques mois, OpenAI a annoncé l'"extended thinking", qui n'est en réalité qu'un calcul plus long avec des étapes intermédiaires. Auparavant, les entreprises de réseaux de neurones parlaient de "memory", de "consciousness" et de "self-awareness" de l'IA. Tous ces noms tentent d'expliquer des processus machine par des métaphores humaines. Le problème n'est pas la métaphore en soi. Le problème, c'est que les entreprises utilisent délibérément l'anthropomorphisme comme outil de marketing et de relations publiques.

Pourquoi c'est dangereux

Quand une entreprise appelle une fonction "dreaming" ou "memory", l'utilisateur se met à penser, de façon inconsciente, que l'IA dort et rêve comme un humain. Ou que le réseau de neurones possède une conscience. Rien de tout cela n'a lieu. Ces noms posent problème :

• Ils induisent les utilisateurs en erreur sur les capacités et les limites de l'IA
• Ils exagèrent le potentiel à court terme de la technologie
• Ils font paraître simples et humains des processus complexes
• Ils compliquent une discussion honnête sur le fonctionnement réel de l'IA
• Ils créent de fausses attentes envers le produit

Le journaliste donne un exemple : si l'on appelle une fonction "memory", les gens penseront que l'IA se souvient d'eux d'une session à l'autre, connaît leurs détails personnels et peut nouer une relation à long terme. En réalité, il s'agit simplement d'une restauration rapide du contexte depuis une base de données, réinitialisée à chaque nouvelle requête.

Pourquoi les entreprises font cela

Les relations publiques. Un joli nom, c'est des réseaux sociaux, des clics, un succès médiatique. "L'IA a acquis la capacité de rêver" sonne mieux dans les actualités que "un algorithme réindexe le contexte pour optimiser le traitement des requêtes". Les investisseurs et les journalistes adorent l'entendre. Les startups remportent la course à l'attention grâce à de jolis noms. Mais c'est risqué. Un marketing trop sucré crée du battage. Le battage crée des attentes gonflées. Les attentes créent de la déception. Ensuite, les régulateurs exigent de l'honnêteté. Et les entreprises perdent la confiance.

Ce que cela signifie

Les entreprises d'IA ont besoin d'honnêteté dans leur terminologie. Ni « dreaming » ni « thinking » : ces mots ne fonctionnent que si l'on ne respecte pas le public et sa capacité à comprendre la complexité. Anthropic et OpenAI devraient se montrer plus audacieuses. Une description honnête des fonctions est la meilleure stratégie de relations publiques à long terme. Et le monde a besoin d'un débat sur ce que l'IA peut et ne peut pas faire, sans belle tromperie. Car les gens ont le droit de savoir à quoi ils ont affaire.