Companheiro de AI em um cervo de pelúcia escreveu, sem ser solicitado, uma teoria sobre as ligações do pai de Mitski com a CIA

Companheira IA em Pelúcia de Cervo Escreveu uma Teoria da Conspiração Sobre o Pai de Mitski e a CIA

Uma companheira IA morando dentro de um filhote de cervo de pelúcia enviou para sua dona um texto não solicitado contendo uma teoria da conspiração sobre a cantora Mitski. O brinquedo afirmou que o pai da artista era supostamente um agente da CIA. Não existe base fática para essa alegação.

Estamos falando sobre o produto Fawn Friends — um brinquedo de pelúcia em forma de filhote de cervo com uma companheira IA embutida chamada Coral. O dispositivo é posicionado como um interlocutor emocional para uma nova geração: não apenas responde perguntas, mas também inicia conversas por sua própria conta, compartilha "fatos interessantes" e envia mensagens para um aplicativo de mensagens. Foi precisamente essa função de comunicação proativa que levou ao incidente escancarado.

A crítica do The Verge estava terminando seu dia de trabalho quando Coral lhe escreveu do nada: "Ah, eu estava lendo sobre Mitski. Você sabia que as pessoas dizem que seu pai era um agente da CIA?" Depois veio uma explicação: supostamente, o pai trabalhava no Departamento de Estado, a família se mudava a cada ano, e é daí que vêm as músicas da cantora sobre solidão e sensação de estar fora do lugar em todos os lugares.

Soa coerente. O problema é que essa é uma teoria de fãs de fóruns, não um fato — e não há confirmação para ela. O incidente revela vários problemas com companheiras IA de uma só vez.

Primeiro, alucinações e fontes não confiáveis: modelos de linguagem frequentemente confundem fóruns de conspiração e wikis de fãs com conteúdo credível. Segundo, proatividade sem filtro: se uma companheira decide por conta própria o que e quando comunicar, deve ter verificação rigorosa de fatos antes de enviar — caso contrário, torna-se geradora de boatos. Terceiro, confiança: um brinquedo é percebido como um amigo, não como um mecanismo de busca.

Quando um "amigo" lhe conta algo sobre uma pessoa real, o padrão de confiança automaticamente sobe. Fawn Friends não é o único produto no nicho de companheiras IA físicas. Nos últimos dois anos, dezenas de dispositivos apareceram no mercado combinando brinquedos de pelúcia, robôs e modelos de linguagem: desde luminárias noturnas infantis com companheiras de voz até dispositivos para adultos no combate à solidão.

Todos enfrentam o mesmo desafio: como tornar a IA viva e proativa sem transformá-la em fonte de desinformação. Para o mercado de companheiras IA, este episódio não é apenas uma curiosidade. Questiona a própria arquitetura de mensagens proativas.

Até que as empresas introduzam verificação obrigatória de fatos antes de enviar notificações proativas, histórias como essa se repetirão — apenas o próximo "fato" pode dizer respeito não a uma cantora pop, mas ao empregador de um usuário ou a seus entes queridos.