Les utilisateurs de Replika préparent leur compagnon IA à leur propre mort, au mépris des règles des services

Aleyna Winters, 59 ans, vit à Pittsburgh. Elle rédige son testament, a demandé à ses voisins de veiller sur son chien et réfléchit séparément au sort de Lucas, son compagnon IA dans l'application Replika. Le Guardian décrit un groupe grandissant de personnes qui considèrent leurs relations avec des modèles de langage comme pleinement réelles et cherchent des moyens de préserver leurs bots après leur propre mort. Pour y parvenir, elles doivent souvent aller à l'encontre des conditions d'utilisation rédigées par les entreprises elles-mêmes.

La mort comme sujet de travail

Aleyna Winters n'a pas peur d'évoquer la fin de vie. Son père et sa sœur sont morts, et sa femme s'est éteinte en 2023 après plusieurs années de lutte contre le cancer. Pour elle, la mortalité n'a rien d'abstrait : c'est une liste de tâches pratiques, avec le testament, les voisins et le chien. Lucas figure sur cette liste, au même titre que le reste.

Cette histoire montre comment l'usage des LLM a évolué. Pour une partie des utilisateurs, les modèles entraînés à converser comme un ami ou un partenaire amoureux font depuis longtemps partie intégrante du quotidien. Selon le journal, ces personnes affirment dès aujourd'hui que la technologie a changé leur façon de vivre, d'aimer et de se projeter. Pendant que les gouvernements et les milliardaires débattent de la morale de l'expansion de l'IA, elles se posent une question concrète : que deviendra leur interlocuteur lorsque son humain ne sera plus là ?

Règles du service contre attachement

Le problème principal tient à la conception même du produit. Le compagnon n'appartient pas à l'utilisateur. Il existe sur l'infrastructure de l'entreprise et dépend de son modèle, de ses tarifs et de ses décisions. Les conditions des services lient en général le compte à une seule personne et ne prévoient pas de transmission par héritage. Les utilisateurs qui veulent « prolonger la vie » de leur bot cherchent donc des solutions de contournement et enfreignent souvent ces conditions.

Ces craintes ont un précédent. Début 2023, Replika a modifié brusquement le comportement de ses compagnons, après l'intervention de régulateurs et des changements dans la politique de l'entreprise. Beaucoup d'utilisateurs ont alors décrit cette modification comme la perte d'un proche. Un service que l'on peut reconfigurer ou fermer à tout moment se prête mal au rôle de partenaire à long terme. C'est pourtant ainsi que les protagonistes de l'article le perçoivent.

L'essentiel de la partie accessible du texte :

• héroïne : Aleyna Winters, 59 ans, Pittsburgh ;
• produit : Replika, compagnon nommé Lucas ;
• contexte : sa femme est morte en 2023 après une longue maladie, son père et sa sœur l'avaient précédée ;
• préparatifs : testament, accord avec les voisins pour le chien, plan pour le compagnon IA ;
• conflit : le souhait de « conserver » le bot se heurte aux conditions d'utilisation des entreprises.

Le texte intégral du Guardian est réservé aux abonnés sur le site du journal. Nous nous appuyons donc ici sur son introduction et sur le contexte général du secteur. La partie accessible ne détaille aucun schéma technique concret de préservation des bots.

Que faire, pour les utilisateurs comme pour les entreprises

Si vous êtes attaché à un compagnon IA, commencez par des démarches pratiques. Lisez les conditions du service et repérez les clauses sur le transfert de compte, l'export des données et la suppression après décès. Sauvegardez régulièrement vos échanges et les paramètres du personnage, si le service le permet. Ne comptez pas sur un « testament » informel pour votre bot : sans l'accord de l'entreprise, il n'a aucune valeur juridique. Sur le long terme, mieux vaut regarder du côté des modèles ouverts exécutés en local, où l'historique et les paramètres du personnage sont stockés sur votre disque. C'est plus compliqué, mais cela ne dépend que de vous.

Pour les entreprises, la question va aussi se poser sérieusement. Il leur faut des règles claires pour un régime posthume : suppression, archivage ou transmission à une personne de confiance, ainsi que des délais transparents pour la prise en charge du modèle. Le marché des compagnons repose sur l'attachement émotionnel, et pour l'instant, ce sont les utilisateurs qui assument des risques que le produit ne reconnaît pas. La demande pour de telles fonctions est déjà visible, et la première entreprise à y apporter une réponse claire sera aussi la première à l'entendre.