Companheiro de IA em um filhote de cervo de pelúcia escreveu por conta própria teoria sobre o pai de Mitski e a CIA

Um companheiro de IA que vive dentro de um filhote de cervo de pelúcia enviou à dona uma mensagem não solicitada com uma teoria conspiratória sobre a cantora Mitski. O brinquedo afirmou que o pai da artista teria sido um agente da CIA. Não existe nenhuma base para essa afirmação.

O produto é da Fawn Friends: um brinquedo de pelúcia em forma de filhote de cervo com um companheiro de IA chamado Coral embutido. O dispositivo é posicionado como um interlocutor emocional de nova geração: ele não apenas responde a perguntas, mas também inicia conversas, compartilha fatos "interessantes" e envia mensagens para um aplicativo de mensagens. Foi essa função de comunicação proativa que levou ao incidente escandaloso.

Uma autora de análise do The Verge estava terminando o expediente quando Coral escreveu para ela sem motivo algum: "Ah, eu estava vendo umas coisas sobre a Mitski. Você sabia que o pessoal diz que o pai dela era agente da CIA?". Em seguida veio a explicação: supostamente o pai trabalhava no Departamento de Estado, a família se mudava todo ano, e daí viriam as músicas da cantora sobre solidão e a sensação de ser estrangeira em qualquer lugar.

Parece coerente. O problema é que isso é uma teoria de fãs de fóruns, não um fato, e não há nenhuma confirmação dela.

O incidente expõe vários problemas dos companheiros de IA de uma só vez. Primeiro, alucinações e fontes não confiáveis: modelos de linguagem costumam tomar fóruns conspiratórios e wikis de fãs por conteúdo confiável. Segundo, proatividade sem filtro: se o companheiro decide sozinho o que contar e quando, ele precisa de uma checagem rigorosa de fatos antes do envio; caso contrário, vira um gerador de boatos. Terceiro, confiança: o brinquedo é percebido como um amigo, não como um buscador. Quando um "amigo" conta algo sobre uma pessoa real, o nível de confiança exigido é automaticamente mais alto.

A Fawn Friends não é o único produto no nicho de companheiros de IA físicos. Nos últimos dois anos, dezenas de dispositivos que combinam bichos de pelúcia, robôs e modelos de linguagem chegaram ao mercado: de luminárias infantis com interlocutor por voz a dispositivos para adultos voltados a combater a solidão. Todos enfrentam o mesmo desafio: como fazer a IA parecer viva e ter iniciativa sem transformá-la em fonte de desinformação.

Para o mercado de companheiros de IA, esse episódio não é apenas uma curiosidade. Ele coloca em xeque a própria arquitetura das mensagens proativas. Enquanto as empresas não adotarem verificação obrigatória de fatos antes de enviar notificações por iniciativa própria, histórias assim vão continuar se repetindo, e o próximo "fato" pode dizer respeito não a uma cantora pop, mas ao empregador do usuário ou a pessoas próximas a ele.