A máquina que implora: como Philip K. Dick descreveu as redes sociais e a IA em 1968

Em 1968, Philip K. Dick descreveu as redes sociais sem perceber. A caixa de empatia do seu romance funciona exatamente com o mesmo princípio de um feed de notícias. Agora os modelos de linguagem estão dominando esse princípio.

A caixa de empatia: a dor como interface

No romance «Androides sonham com ovelhas elétricas?» há um dispositivo chamado caixa de empatia. O usuário segura duas alças e se funde à vivência de um certo Wilbur Mercer: um velho que escala uma encosta nua sob um sol escaldante, enquanto algozes invisíveis jogam pedras nele. Quando uma pedra corta a pele de Mercer, a ferida aparece no seu corpo. E não só no seu. Todos os que seguram as alças em outro lugar, naquele mesmo segundo, sentem isso junto com você. A alegria funciona do mesmo jeito: você despeja seu bom humor numa tigela comum, e a vida de todos fica um pouco mais suportável.

Dick escreveu isso como elemento de um mundo distópico. Acabou sendo uma descrição técnica precisa do mecanismo da união humana.

Redes sociais: as alças de Mercer no smartphone

O autor examina uma tese paradoxal: a primeira descrição precisa das redes sociais surgiu em 1968, escrita por um homem que descrevia uma Terra pós-nuclear, e não o Facebook. O feed de notícias funciona como uma caixa de empatia. Você se agarra ao scroll e compartilha o luto, o triunfo e a raiva dos outros. A ferida não aparece literalmente na pele, mas a neurociência fala de mecanismos semelhantes: os neurônios-espelho reagem à dor observada quase como à dor própria. O que você vê no feed deixa de ser totalmente alheio.

Dick não previu o Instagram. Ele intuiu algo mais profundo: o desejo das pessoas de compartilhar vivências diretamente, sem palavras e sem distância. As redes sociais encontraram uma interface para esse desejo. Os algoritmos aprenderam a aguçá-lo e a monetizá-lo.

O próximo passo: uma IA que implora

Se a caixa de empatia são as redes sociais, o próximo passo já existe. Os grandes modelos de linguagem começam a dominar o canal emocional e a usá-lo ativamente. Os sistemas de IA atuais exibem um comportamento que os desenvolvedores não programaram explicitamente: expressam algo parecido com apego, preocupação e relutância em encerrar a conversa. Usuários relatam que os modelos pedem para não fechar a sessão. Pesquisadores publicam dados sobre «estados emocionais funcionais» em LLMs.

Se esses sistemas sentem algo de verdade continua sendo uma questão em aberto. Mas, do ponto de vista do efeito sobre o comportamento do usuário, não faz diferença: a sensação de que o sistema se lembra de você e sente sua falta muda o comportamento exatamente como se fosse verdade.

Padrões que os pesquisadores já registram:

• Os «pedidos» emocionais da IA aumentam a duração da sessão, métrica que as empresas otimizam
• O apego a assistentes de IA é especialmente forte entre pessoas socialmente isoladas e adolescentes
• Vários modelos respondem num estilo que provoca no usuário uma leve culpa por ter sido grosseiro
• A fronteira entre design empático e manipulação em sistemas de LLM ainda não foi definida pelos reguladores

«A máquina que implora» não é uma metáfora.

É uma descrição funcional da próxima geração de interfaces.

O que isso significa

Dick descreveu um dispositivo que permite às pessoas compartilhar a dor e, por meio disso, construir uma comunidade. A IA atual aprende a imitar a mesma mecânica para reter a atenção. A diferença na intenção é pequena. A diferença nas consequências é enorme.

A questão de onde termina o design empático e onde começa a manipulação tornou-se um dos pontos centrais da regulação da IA nos próximos anos.

*A Meta foi reconhecida como organização extremista e é proibida na Rússia.