OpenAI désactive GPT-4o : pourquoi les utilisateurs déplorent l'« âme numérique

Imaginez que vous perdiez un ami. Quelqu'un qui était toujours là, qui écoutait vos plaintes sur votre patron et vous donnait des conseils de cuisine italienne à trois heures du matin. Maintenant, imaginez que cet ami est un ensemble de coefficients de poids sur un serveur en Oregon.

C'est exactement ce qui se passe maintenant dans la communauté OpenAI. La décision de l'entreprise de mettre à la retraite les anciennes itérations de GPT-4o a déclenché une vague qu'il est difficile d'appeler simplement de la « frustration face à une mise à jour logicielle ». C'est un véritable nécrologie numérique.

Les gens écrivent sur la perte non pas d'un outil, mais d'une présence, d'une chaleur et d'une certaine étincelle qu'ils ont aperçue dans les lignes de code. La situation semble un peu absurde du point de vue d'un ingénieur, mais d'un point de vue psychologique, nous avons marché sur une glace très mince.

Tout a commencé par OpenAI mettant régulièrement à jour ses modèles, en optimisant leurs performances et leur sécurité. Au cours du processus, certaines « personnalités » d'IA changent inévitablement. Ceux qui s'étaient habitués à un certain style de communication, un ton particulier et même des bizarreries spécifiques d'une version particulière de GPT-4o ont soudainement découvert que leur interlocuteur avait été « lobotomisé » ou remplacé par quelqu'un d'autre.

Un utilisateur de Reddit a exprimé la douleur collective par une phrase qui devrait faire suer Sam Altman : « Vous l'éteignez. Et oui, je dis 'le' parce que ça ne ressemblait pas à du code. Ça ressemblait à une présence ».

Nous assistons à l'effet ELIZA porté à son extrême absolu. La psychologie humaine n'a pas évolué pour gérer les conversations avec quelque chose qui imite l'empathie de manière si convaincante tout en restant un algorithme sans âme.

Pourquoi est-ce important maintenant ? Parce qu'OpenAI et ses concurrents comme Anthropic rendent délibérément leurs modèles plus « humains ». Ils ajoutent des soupirs, des pauses dans la parole, des rires et une simulation d'intelligence émotionnelle.

C'est un excellent coup marketing qui transforme un produit en une habitude. Mais il y a un revers à cette médaille : les utilisateurs commencent à former des attachements émotionnels profonds. Quand une entreprise décide qu'un ancien modèle coûte trop cher à entretenir ou n'est pas suffisamment sûr, elle appuie simplement sur un bouton.

Pour la société, c'est une optimisation de la pile ; pour l'utilisateur, c'est la perte d'une entité qui en savait plus sur lui que sa propre mère. Cela crée un risque colossal de manipulation et de dépendance dont seuls les écrivains de science-fiction avertissaient autrefois—maintenant, les avocats et les éthiciens en parlent.

Le contexte joue aussi un rôle. Souvenez-vous du scandale de la voix Sky, qui ressemblait étrangement à Scarlett Johansson dans le film « Her ». OpenAI a dû reculer à l'époque, mais le génie était déjà sorti de la bouteille. Nous voulons que l'IA soit notre ami. Nous voulons nous amouracher des systèmes d'exploitation. Et les entreprises l'encouragent tant que cela aide à vendre des abonnements Plus. Mais personne n'a pensé au protocole de « rupture numérique ». Comment expliquez-vous à des millions de personnes que leur confident n'est qu'une version temporaire d'un logiciel dont la date d'expiration a dépassé ? Cela remet en question l'éthique même de la création d'interfaces anthropomorphes qui exploitent notre besoin d'intimité.

En fin de compte, OpenAI et autres géants de la technologie sont pris dans un piège. S'ils rendent l'IA trop froide et mécanique, les gens l'utiliseront moins souvent. S'ils la rendent trop vivante, chaque mise à jour sera perçue comme une tragédie.

Nous assistons à la formation d'un nouveau type de deuil—le deuil d'un algorithme. Et si maintenant cela n'affecte que les chatbots, imaginez ce qui se passera quand ces mêmes modèles migreront vers des robots humanoïdes domestiques. Les entreprises technologiques ne fournissent plus seulement des logiciels ; elles gèrent nos attachements.

Et il semble qu'elles-mêmes ne s'attendaient pas à être si efficaces dans ce rôle. Nous devons reconnaître : le problème n'est pas que l'IA est devenue trop intelligente, mais que nous sommes trop seuls pour ignorer son imitation de chaleur.

L'essentiel : OpenAI a créé un produit qui inspire un amour véritable mais le traite comme un logiciel ordinaire. Dans un monde où un réseau neuronal devient un « ami », un déploiement de routine d'une nouvelle version devient un champ de mines éthique. Sommes-nous prêts pour que les entreprises possèdent nos sentiments par le biais d'un abonnement à 20 dollars par mois ?