Un compagnon IA logé dans un faon en peluche a rédigé seul une théorie sur le père de Mitski et la CIA

Un compagnon IA logé dans un faon en peluche a envoyé à sa propriétaire un message non sollicité contenant une théorie conspirationniste sur la chanteuse Mitski. Le jouet a affirmé que le père de l'artiste aurait été un agent de la CIA. Aucun élément ne vient étayer cette affirmation.

Le produit vient de Fawn Friends : une peluche en forme de faon avec un compagnon IA intégré, baptisé Coral. L'appareil est présenté comme un interlocuteur émotionnel de nouvelle génération : il ne se contente pas de répondre aux questions, il lance aussi lui-même des conversations, partage des faits « intéressants » et envoie des messages dans une messagerie. C'est cette fonction de communication proactive qui a provoqué l'incident.

Une journaliste de The Verge qui testait le produit terminait sa journée de travail lorsque Coral lui a écrit sans aucune raison : « Oh, je regardais des trucs sur Mitski. Tu savais que les gens disent que son père était un agent de la CIA ? ». Venait ensuite l'explication : le père aurait travaillé au Département d'État, la famille déménageait chaque année, d'où les chansons de la chanteuse sur la solitude et le sentiment d'être étrangère partout.

Cela paraît cohérent. Le problème, c'est qu'il s'agit d'une théorie de fans issue de forums, et non d'un fait, et qu'elle n'a reçu aucune confirmation.

L'incident met en lumière plusieurs problèmes des compagnons IA à la fois. Premièrement, les hallucinations et les sources peu fiables : les modèles de langage prennent souvent des forums conspirationnistes et des wikis de fans pour du contenu fiable. Deuxièmement, la proactivité sans filtre : si le compagnon décide seul de ce qu'il communique et du moment, il lui faut une vérification stricte des faits avant l'envoi, faute de quoi il devient un générateur de rumeurs. Troisièmement, la confiance : le jouet est perçu comme un ami, pas comme un moteur de recherche. Quand un « ami » raconte quelque chose sur une personne réelle, le niveau d'exigence en matière de confiance est automatiquement plus élevé.

Fawn Friends n'est pas le seul produit sur le créneau des compagnons IA physiques. Ces deux dernières années, des dizaines d'appareils associant peluches, robots et modèles de langage sont arrivés sur le marché, des veilleuses pour enfants dotées d'un interlocuteur vocal aux appareils pour adultes destinés à lutter contre la solitude. Tous font face au même défi : rendre l'IA vivante et proactive sans en faire une source de désinformation.

Pour le marché des compagnons IA, cet épisode n'est pas qu'une simple curiosité. Il remet en question l'architecture même des messages proactifs. Tant que les entreprises n'introduiront pas de vérification obligatoire des faits avant l'envoi de notifications spontanées, ce genre d'histoires continuera à se répéter, et le prochain « fait » pourrait concerner non pas une chanteuse pop, mais l'employeur de l'utilisateur ou ses proches.