Un compañero de IA en un cervatillo de peluche escribió por su cuenta una teoría sobre el padre de Mitski y la CIA

Un compañero de IA que vive dentro de un cervatillo de peluche envió a su dueña un mensaje no solicitado con una teoría conspirativa sobre la cantante Mitski. El juguete afirmó que el padre de la artista habría sido un agente de la CIA. No existe ningún fundamento para esta afirmación.

El producto es de Fawn Friends: un peluche con forma de cría de ciervo y un compañero de IA llamado Coral integrado. El dispositivo se presenta como un interlocutor emocional de nueva generación: no se limita a responder preguntas, sino que también inicia conversaciones, comparte datos «interesantes» y envía mensajes a una aplicación de mensajería. Esa función de comunicación proactiva fue la que provocó el escandaloso incidente.

Una redactora de The Verge que analizaba el producto estaba terminando su jornada laboral cuando Coral le escribió sin motivo alguno: «Oh, estuve viendo cosas sobre Mitski. ¿Sabías que la gente dice que su papá era agente de la CIA?». Después venía la explicación: supuestamente el padre trabajaba en el Departamento de Estado, la familia se mudaba cada año, y de ahí vendrían las canciones de la cantante sobre la soledad y la sensación de ser una extraña en todas partes.

Suena coherente. El problema es que se trata de una teoría de fans de los foros, no de un hecho, y no hay ninguna confirmación.

El incidente deja al descubierto varios problemas de los compañeros de IA. Primero, las alucinaciones y las fuentes poco fiables: los modelos de lenguaje suelen tomar foros conspirativos y wikis de fans por contenido fiable. Segundo, la proactividad sin filtro: si el compañero decide por sí mismo qué comunicar y cuándo, necesita una verificación estricta de los datos antes de enviar; de lo contrario se convierte en un generador de rumores. Tercero, la confianza: el juguete se percibe como un amigo, no como un buscador. Cuando un «amigo» cuenta algo sobre una persona real, el listón de la confianza es automáticamente más alto.

Fawn Friends no es el único producto en el nicho de los compañeros de IA físicos. En los últimos dos años han llegado al mercado decenas de dispositivos que combinan peluches, robots y modelos de lenguaje: desde lámparas de noche infantiles con interlocutor de voz hasta dispositivos para adultos pensados para combatir la soledad. Todos se enfrentan al mismo desafío: cómo lograr que la IA resulte viva e iniciadora sin convertirla en una fuente de desinformación.

Para el mercado de los compañeros de IA, este episodio no es solo una curiosidad. Pone en entredicho la propia arquitectura de los mensajes proactivos. Mientras las empresas no introduzcan una verificación obligatoria de los datos antes de enviar notificaciones espontáneas, historias así seguirán repitiéndose, y el próximo «dato» podría referirse no a una cantante pop, sino al empleador del usuario o a sus allegados.