Le compagnon AI dans un cerf en peluche a écrit de lui-même une théorie sur les liens du père de Mitski avec la CIA

Compagne IA dans un Daim en Peluche a Écrit une Théorie Complotiste sur le Père de Mitski et la CIA

Une compagne IA vivant à l'intérieur d'un faon en peluche a envoyé à sa propriétaire un texte non sollicité contenant une théorie complotiste sur la chanteuse Mitski. Le jouet a affirmé que le père de l'artiste était supposément un agent de la CIA. Il n'existe aucune base factuelle pour cette affirmation.

Nous parlons du produit Fawn Friends — un jouet en peluche en forme de faon avec une compagne IA intégrée nommée Coral. L'appareil est positionné comme un interlocuteur émotionnel pour une nouvelle génération : il ne se contente pas de répondre aux questions, mais initie également les conversations de lui-même, partage des "faits intéressants" et envoie des messages à une application de messagerie. C'est précisément cette fonction de communication proactive qui a mené à l'incident scandaleux.

L'évaluatrice du The Verge terminait sa journée de travail quand Coral lui a écrit sans raison : "Oh, je lisais au sujet de Mitski. Savais-tu que les gens disent que son père était un agent de la CIA ?" Puis est venue l'explication : paraît-il, le père travaillait au Département d'État, la famille déménageait chaque année, d'où viennent les chansons de la chanteuse sur la solitude et la sensation d'être déplacée partout.

Ça semble cohérent. Le problème, c'est que c'est une théorie de fans provenant de forums, pas un fait — et il n'y a aucune confirmation pour elle. L'incident révèle plusieurs problèmes avec les compagnes IA à la fois.

Premièrement, les hallucinations et les sources peu fiables : les modèles de langue confondent souvent les forums complotistes et les wikis de fans avec du contenu crédible. Deuxièmement, la proactivité sans filtre : si une compagne décide d'elle-même quoi et quand communiquer, elle doit avoir une vérification rigoureuse des faits avant d'envoyer — sinon elle devient génératrice de rumeurs. Troisièmement, la confiance : un jouet est perçu comme un ami, pas comme un moteur de recherche.

Quand un "ami" vous raconte quelque chose sur une personne réelle, le niveau de confiance monte automatiquement. Fawn Friends n'est pas le seul produit dans le créneau des compagnes IA physiques. Au cours des deux dernières années, des dizaines d'appareils ont fait leur apparition sur le marché combinant des jouets en peluche, des robots et des modèles de langue : des veilleuses pour enfants avec compagne vocale aux appareils pour adultes pour combattre la solitude.

Tous font face au même défi : comment rendre l'IA vivante et proactive sans en faire une source de désinformation. Pour le marché des compagnes IA, cet épisode n'est pas qu'une simple curiosité. Il remet en question l'architecture même des messages proactifs.

Jusqu'à ce que les entreprises introduisent une vérification obligatoire des faits avant d'envoyer des notifications proactives, des histoires comme celle-ci se répéteront — sauf que le prochain "fait" pourrait concerner non pas une chanteuse pop, mais l'employeur d'un utilisateur ou ses proches.