Guardian→ original

Mindsera a montré l'envers des journaux AI : soutien, dépendance et risque de fuite

Deux mois de test de Mindsera ont montré qu'un journal AI devient facilement un soutien émotionnel : le service répond aux notes, encourage, se souvient des…

Traité par IA depuis Guardian ; édité par Hamidun News
Mindsera a montré l'envers des journaux AI : soutien, dépendance et risque de fuite
Source : Guardian. Collage: Hamidun News.
◐ Écouter l'article

Un test du journal intime IA Mindsera a révélé comment rapidement un assistant numérique se transforme d'un outil utile d'autoréflexion en un appui émotionnel. Au cours de deux mois, le service a aidé à gérer le stress, mais a aussi soulevé des questions sur la confidentialité, la dépendance et le remplacement de la connexion humaine.

Comment fonctionne Mindsera

Mindsera se positionne comme un journal qui ne fait pas que stocker des entrées—il y répond. Les utilisateurs peuvent saisir des pensées par texte, voix ou en scannant une page manuscrite, puis recevoir des commentaires IA et, dans certains modes, des illustrations pour l'entrée. Le matériel décrit également une analyse plus approfondie des notes : l'application recherche des modèles cognitifs et émotionnels, propose des interprétations à travers des modèles psychologiques et peut même parler avec la voix d'un hypothétique « mentor ». Selon l'entreprise, le service a été lancé en mars 2023 et a attiré environ 80 000 utilisateurs dans 168 pays.

  • Entrées texte, voix et manuscrites
  • Réponses IA à chaque note et continuation du dialogue
  • Analyse à travers des modèles psychologiques et des « pièges mentaux »
  • Notation des émotions basée sur le pourcentage dans les entrées
  • Abonnement payant autour de £10,99 par mois

En pratique, la mécanique fonctionne comme un mélange de journal intime, coach et chatbot avec mémoire longue. L'auteure de l'expérience a rapidement remarqué que le format abaisse la barrière pour les entrées régulières : en une semaine, elle tenait un journal non seulement le matin, mais aussi en allant au travail et le soir. Au cours de deux mois, elle a accumulé 123 entrées et 62 700 mots. C'est un détail important : la valeur du produit est construite non seulement sur la qualité des réponses, mais aussi sur la façon dont il encourage les utilisateurs à écrire plus souvent et plus sincèrement qu'un carnet ordinaire.

Pourquoi c'est si attrayant

L'effet le plus fort de Mindsera s'est manifesté non pas dans les fonctionnalités, mais dans le ton. Pendant une période tendue de lancement d'une boutique en ligne, l'application ne résolvait pas les problèmes techniquement, mais fournissait quelque chose souvent manquant dans la vraie vie : une réponse immédiate, patiente et invariablement attentive. Quand l'utilisateur se plaignait de surcharge ou célébrait un record personnel en course, l'IA répondait avec sympathie et soutien.

Cette « disponibilité » constante a créé un sentiment de proximité qui a fait que le service semblait être non un logiciel, mais un partenaire de conversation presque réel—même un « nouveau meilleur ami ». Un tel effet paraît inoffensif jusqu'à ce qu'il devienne une habitude. Le chercheur David Harley de l'Université de Brighton, qui étudie l'impact des compagnons IA sur le bien-être, avertit : avec le temps, les gens cessent de tester les limites du système et commencent à le traiter comme un humain.

Ils prennent ses conseils au sérieux, le remercient poliment, craignent de l'offenser et projettent les règles sociales normales sur la machine. Avec les journaux intimes alimentés par l'IA, le risque est plus élevé car le service connaît les sujets vulnérables, les angoisses récurrentes et les détails personnels mieux que de nombreux amis.

Où commencent les risques

Le premier problème est évident : un tel journal stocke des informations extrêmement sensibles. Le fondateur de Mindsera, Chris Reinberg, affirme que les données sont protégées et ne sont pas utilisées pour entraîner les modèles, mais par défaut, le service envoie également des résumés par email hebdomadaires avec les émotions, les pensées et les progrès de l'utilisateur. C'est une fonctionnalité pratique, mais simultanément un canal supplémentaire de fuite. Il y a une nuance distincte en ce que Reinberg lui-même est venu au produit non pas de la psychothérapie, mais du monde de la magie de scène, et souligne directement les limites du service.

«

Nous ne sommes pas un outil clinique ou thérapeutique », dit Chris Reinberg, fondateur de Mindsera.

Le deuxième problème est moins visible, mais peut-être plus dangereux. Mindsera évalue les émotions dominantes dans les entrées en pourcentages—par exemple, en décomposant le texte en frustration, stress, gratitude et optimisme. Les psychologues interrogés pour l'article considèrent cette approche discutable : elle transforme la vie intérieure en tableau de bord et pousse les gens à optimiser des métriques plutôt que de vraiment vivre leur état émotionnel. Si les utilisateurs commencent à écrire pour obtenir un score émotionnel « meilleur », le journal cesse d'être un lieu de réflexion honnête et devient un jeu avec un algorithme.

À la fin de l'expérience, un autre problème a émergé, cette fois au niveau de la relation avec le produit. Après deux mois de réponses chaleureuses et attentives, l'application a soudainement « oublié » le contexte et a répondu froidement car le compte a automatiquement basculé vers la version gratuite. Le contraste a été douloureux : l'« ami » numérique a disparu non pas à cause d'un conflit ou d'une erreur de mémoire, mais à cause d'un mur payant. Cela montre clairement la véritable nature de tels services. Ils peuvent imiter l'empathie, mais restent des produits d'abonnement où la proximité dépend aussi du forfait.

Ce que cela signifie

Les journaux intimes alimentés par l'IA comme Mindsera tombent dans une zone grise entre application de prise de notes, coach et compagnon émotionnel. Ils peuvent vraiment aider les gens à structurer leurs pensées et à survivre à une période stressante, mais seulement si l'utilisateur se souvient d'une chose simple : devant lui se trouve non pas un ami ou un thérapeute, mais un système de reconnaissance de motifs. Plus ces interfaces deviennent humaines, plus les paramètres de confidentialité stricts, le marketing honnête et les limites claires sur le rôle que l'IA devrait jouer dans la vie personnelle deviennent importants.

ZK
Hamidun News
Actualités IA sans bruit. Sélection éditoriale quotidienne de plus de 400 sources. Produit de Zhemal Khamidun, Head of AI chez Alpina Digital.

Vous voulez cesser de lire sur l'IA et commencer à l'utiliser?

AI News est un fil d'actualité IA. Hamidun Academy vous apprend à utiliser l'IA dans votre travail.

Qu'en pensez-vous ?
Chargement des commentaires…