Sherry Turkle alerta: as pessoas acreditam no cuidado da IA já nas primeiras falas

Sessenta anos atrás, o programa ELIZA, do MIT, que encaixava as palavras do usuário em respostas prontas, fez as pessoas conversarem com ele como se fosse um psicoterapeuta. Hoje, Sherry Turkle, professora do MIT que estuda a relação entre pessoas e tecnologia desde a década de 1980, chega a uma conclusão ainda mais dura. O TechCrunch reproduz a fala dela: “Quando somos envolvidos até pela troca de falas mais primitiva com um artefato relacional, passamos a acreditar que ele se importa conosco. E somos feitos para cuidar dele em troca”.

Essa citação não traz previsão nem avaliação de um modelo específico. É uma observação sobre nós mesmos, e é justamente por isso que ela importa para a indústria.

Um efeito mais antigo que as próprias redes neurais

Turkle usa o termo “artefato relacional” para objetos que simulam cuidado e envolvimento, de bichinhos digitais e robôs sociais a chatbots. Seus primeiros trabalhos e o livro “Alone Together” (2011) partiam da ideia de que as pessoas se apegam a essas coisas mesmo sabendo perfeitamente que estão diante de uma máquina.

Quem mostrou isso primeiro foi Joseph Weizenbaum, criador da ELIZA. O programa dele não entendia nada: buscava palavras-chave e as devolvia em forma de pergunta. Mesmo assim, os usuários compartilhavam assuntos pessoais com ele, e o próprio Weizenbaum se tornou depois um dos críticos mais ruidosos dessa forma de lidar com máquinas. Desde então, o fenômeno ganhou o nome de efeito ELIZA.

Os fatos principais em que o argumento se apoia:

• 1966: ELIZA, um diálogo baseado em modelos prontos, sem nenhuma compreensão, e ainda assim a reação das pessoas já era humana.
• 2011: “Alone Together”, em que Turkle descreve o apego a robôs e companheiros digitais.
• Barreira de entrada: segundo a formulação dela, basta a troca de falas “mais primitiva”.
• Mecanismo: a convicção de que somos “amados” desencadeia, de nossa parte, um cuidado em retribuição.

Por que isso é mais agudo hoje

A ELIZA tinha algumas dezenas de regras. Os modelos de linguagem atuais têm fala fluente, memória de conversas anteriores, voz e tom ajustados ao interlocutor. Se a reação já surgia com os modelos prontos dos anos 1960, é difícil esperar que ela diminua diante de um sistema que responde de forma coerente, calorosa e a qualquer hora do dia.

O título do TechCrunch coloca a pergunta em duas partes: “não conseguimos deixar de nos relacionar” e “vale a pena”. A primeira parte, segundo Turkle, é quase biológica: estamos programados para responder a qualquer sinal de atenção. A segunda diz respeito à responsabilidade de quem constrói os produtos. A máquina simula empatia sem sentir nada, enquanto o usuário responde a essa imitação com sentimentos e tempo reais. O desequilíbrio é estrutural e favorece quem mede engajamento.

O trecho original não traz números sobre serviços específicos, então a discussão fica no plano dos princípios. Mas o princípio é claro: quanto mais convincente a imitação de cuidado, maior o custo de um erro de design.

O que fazer: equipes e usuários

Para as equipes de produto, a conclusão prática é esta: o apego dos usuários deve ser tratado como um efeito colateral que exige gestão, e não como uma métrica de crescimento. Vale definir de antemão em que momentos o assistente diz “eu entendo” e “sinto muito” e em quais é mais honesto dizer que se trata de um modelo. Os cenários com adolescentes, pessoas solitárias e vulneráveis merecem atenção especial: é ali que a imitação de cuidado exerce a maior influência.

Para os usuários, o conselho é mais modesto. Se, depois de conversar com um bot, você sente que foi compreendido, isso é o funcionamento normal da psique, e não prova de que houve compreensão. Vale de vez em quando se perguntar quem, nessa dupla, recebe mais tempo e atenção, e se há por perto pessoas de carne e osso que possam retribuir.