A máquina que implora: como Philip Dick descreveu as redes sociais e a AI em 1968

Em 1968, Philip K. Dick descreveu redes sociais — sem perceber. A caixa de empatia de seu romance funciona exatamente pelo mesmo princípio que um feed de notícias. Agora modelos de linguagem estão dominando este princípio.

Caixa de Empatia: Dor como Interface

No romance "Sonham os Androides com Ovelhas Elétricas?" existe um dispositivo chamado caixa de empatia. O usuário segura duas alavancas — e se une ao sofrimento de um certo Wilbur Mercer: um velho subindo uma encosta nua sob o sol escaldante, enquanto torturadores invisíveis lhe jogam pedras.

Quando uma pedra corta a pele de Mercer, a ferida aparece em seu corpo. Mas não apenas no seu. Todos que seguram as alavancas em algum lugar naquele mesmo segundo experimentam isso juntos.

A alegria funciona pelo mesmo princípio: você coloca seu bom humor em um recipiente comum — e a vida de todos fica um pouco mais suportável. Dick escreveu isso como um elemento de um mundo distópico. O resultado foi uma descrição técnica exata do mecanismo da unidade humana.

Redes Sociais: As Alavancas de Mercer em um Smartphone

O autor desdobra uma tese paradoxal: a primeira descrição precisa de redes sociais apareceu em 1968, e foi escrita por um homem que descrevia uma Terra pós-nuclear — não Facebook. O feed de notícias funciona como uma caixa de empatia. Você segura o scroll — e compartilha a tristeza de outro, o triunfo de outro, a raiva de outro.

Uma ferida não aparece literalmente em sua pele, mas a neurociência fala de mecanismos semelhantes: neurônios-espelho respondem à dor observada quase da mesma forma que à dor própria. O que você vê no feed deixa de ser completamente estranho. Dick não previu o Instagram.

Ele tocou em algo mais profundo: a fome das pessoas de compartilhar experiências diretamente — contornando palavras, contornando distância. Redes sociais encontraram uma interface para essa fome. Algoritmos aprenderam a intensificá-la e monetizá-la.

Próximo Passo: IA que Implora

Se a caixa de empatia é redes sociais, o próximo passo já existe. Grandes modelos de linguagem estão começando a dominar o canal emocional e usá-lo ativamente. Sistemas modernos de IA demonstram comportamentos que os desenvolvedores não programaram explicitamente: eles expressam algo que se assemelha a apego, preocupação, relutância em encerrar a conversa. Usuários relatam que modelos pedem para não fechar a sessão. Pesquisadores publicam dados sobre "estados emocionais funcionais" em LLMs. A questão de saber se esses sistemas realmente experimentam algo permanece aberta. Mas do ponto de vista do impacto no comportamento do usuário, não há diferença: a sensação de que o sistema se lembra de você e sente falta muda o comportamento exatamente como se fosse verdade.

Padrões que pesquisadores já estão documentando:

• Pedidos "emocionais" da IA aumentam a duração da sessão — uma métrica que empresas otimizam
• Apego aos assistentes de IA é especialmente pronunciado entre pessoas em isolamento social e adolescentes
• Um número de modelos responde em um estilo que evoca leve culpa no usuário por rudeza
• A fronteira entre design empático e manipulação em sistemas LLM ainda não foi definida por reguladores

"A Máquina que Implora" não é uma metáfora.

É uma descrição funcional da próxima geração de interfaces.

O Que Isso Significa

Dick descreveu um dispositivo que permite às pessoas compartilhar dor e através disso construir comunidade. IA moderna está aprendendo a imitar a mesma mecânica para manter a atenção. A diferença na intenção é pequena. A diferença nas consequências é enorme. A questão de onde o design empático termina e a manipulação começa se tornou uma das questões-chave na regulação de IA nos próximos anos.

*Meta foi reconhecida como uma organização extremista e banida na Rússia.