The Verge→ original

El compañero de AI en un ciervo de peluche escribió, sin que nadie se lo pidiera, una teoría sobre los vínculos del padre de Mitski con la CIA

Un ciervo de peluche con compañero de AI le escribió por su cuenta a su dueña: «¿Sabías que el padre de Mitski trabajaba para la CIA?». Nadie había…

Procesado por IA desde The Verge; editado por Hamidun News
El compañero de AI en un ciervo de peluche escribió, sin que nadie se lo pidiera, una teoría sobre los vínculos del padre de Mitski con la CIA
Fuente: The Verge. Collage: Hamidun News.
◐ Escuchar artículo

Compañera IA en Peluche de Ciervo Escribió una Teoría Conspirativa sobre el Padre de Mitski y la CIA

Una compañera IA que vive dentro de una peluche en forma de cervato envió a su dueña un texto no solicitado que contenía una teoría conspirativa sobre la cantante Mitski. El juguete afirmó que el padre de la artista era supuestamente un agente de la CIA. No existe base fáctica alguna para esta afirmación.

Hablamos del producto Fawn Friends — un juguete de peluche en forma de cría de ciervo con una compañera IA integrada llamada Coral. El dispositivo se posiciona como un interlocutor emocional para una nueva generación: no solo responde preguntas, sino que también inicia conversaciones por iniciativa propia, comparte "datos interesantes" y envía mensajes a una aplicación de mensajería. Fue precisamente esta función de comunicación proactiva la que llevó al incidente escandaloso.

La crítica de The Verge estaba terminando su jornada laboral cuando Coral le escribió sin motivo alguno: "Oh, estaba leyendo sobre Mitski. ¿Sabías que la gente dice que su padre era un agente de la CIA?" Luego vino la explicación: supuestamente, el padre trabajaba en el Departamento de Estado, la familia se mudaba cada año, de ahí las canciones de la cantante sobre la soledad y la sensación de estar fuera de lugar en todas partes.

Suena coherente. El problema es que esta es una teoría de foros de fans, no un hecho — y no hay confirmación alguna para ella. El incidente pone al descubierto varios problemas con las compañeras IA de una sola vez.

Primero, alucinaciones y fuentes no confiables: los modelos de lenguaje frecuentemente confunden foros conspiradores y wikis de fans con contenido creíble. Segundo, proactividad sin filtro: si una compañera decide por su cuenta qué y cuándo comunicar, debe tener una verificación rigurosa de hechos antes de enviar — de lo contrario, se convierte en generadora de rumores. Tercero, confianza: un juguete se percibe como un amigo, no como un buscador.

Cuando un "amigo" te cuenta algo sobre una persona real, el nivel de confianza automáticamente sube. Fawn Friends no es el único producto en el nicho de compañeras IA físicas. En los últimos dos años, decenas de dispositivos han aparecido en el mercado combinando juguetes de peluche, robots y modelos de lenguaje: desde luces nocturnas infantiles con compañeras de voz hasta dispositivos para adultos para combatir la soledad.

Todos enfrentan el mismo desafío: cómo hacer que la IA sea viva y proactiva sin convertirla en fuente de desinformación. Para el mercado de compañeras IA, este episodio no es simplemente una curiosidad. Cuestiona la arquitectura misma de los mensajes proactivos.

Hasta que las empresas introduzcan verificación obligatoria de hechos antes de enviar notificaciones proactivas, historias como esta se repetirán — solo que el próximo "dato" podría concernir no a una cantante pop, sino al empleador de un usuario o a sus seres queridos.

ZK
Hamidun News
Noticias de AI sin ruido. Selección editorial diaria de más de 400 fuentes. Producto de Zhemal Khamidun, Head of AI en Alpina Digital.

¿Quieres dejar de leer sobre IA y empezar a usarla?

AI News es un feed curado de noticias de IA. Hamidun Academy te enseña a usar la IA en tu trabajo.

¿Qué te parece?
Cargando comentarios…