Sherry Turkle advierte: creemos que la IA se preocupa por nosotros desde las primeras frases

Hace sesenta años, el programa ELIZA del MIT, que insertaba las palabras del usuario en respuestas de plantilla, consiguió que la gente le hablara como si fuera un psicoterapeuta. Hoy Sherry Turkle, profesora del MIT que estudia la relación entre las personas y la tecnología desde la década de 1980, resume la conclusión con más dureza. TechCrunch recoge sus palabras: «Cuando nos engancha incluso el intercambio más primitivo con un artefacto relacional, creemos que se preocupa por nosotros. Y estamos hechos para preocuparnos por él a cambio».

Esta cita no contiene ningún pronóstico ni valoración de un modelo concreto. Es una observación sobre nosotros mismos, y por eso resulta relevante para la industria.

Un efecto más antiguo que las propias redes neuronales

Turkle usa el término «artefacto relacional» para referirse a objetos que simulan cuidado e implicación: desde mascotas digitales y robots sociales hasta chatbots. Sus primeros trabajos y el libro «Alone Together» (2011) partían de la idea de que las personas se apegan a estas cosas incluso cuando entienden perfectamente que tienen delante una máquina.

El primero en demostrarlo fue Joseph Weizenbaum, creador de ELIZA. Su programa no entendía nada: buscaba palabras clave y las devolvía en forma de pregunta. Aun así, los usuarios le confiaban asuntos personales, y el propio Weizenbaum acabó convirtiéndose en uno de los críticos más sonoros de esa actitud hacia las máquinas. Desde entonces, el fenómeno se conoce como efecto ELIZA.

Los hechos clave en los que se apoya el argumento:

• 1966: ELIZA, un diálogo de plantillas sin ninguna comprensión, y una reacción de las personas ya plenamente humana.
• 2011: «Alone Together», donde Turkle describe el apego a robots y compañeros digitales.
• Umbral de entrada: según su formulación, basta con el intercambio «más primitivo».
• Mecanismo: la convicción de que nos «quieren» activa por nuestra parte un cuidado recíproco.

Por qué hoy el problema es más agudo

ELIZA tenía unas pocas decenas de reglas. Los modelos de lenguaje actuales cuentan con habla fluida, memoria de conversaciones anteriores y una voz y un tono adaptados al interlocutor. Si la reacción ya surgía con las plantillas de los años sesenta, es difícil esperar que se debilite ante un sistema que responde con coherencia, calidez y a cualquier hora del día.

El titular de TechCrunch plantea una pregunta en dos partes: «no podemos no relacionarnos» y «si vale la pena». La primera parte, según Turkle, es casi biológica: estamos programados para responder a cualquier señal de atención. La segunda atañe a la responsabilidad de quienes construyen los productos. La máquina simula empatía sin sentir nada, y el usuario responde a esa imitación con sentimientos reales y con su tiempo. El desequilibrio es estructural y beneficia a quien mide el engagement.

En el fragmento original no hay cifras sobre servicios concretos, así que el debate se queda en el plano de los principios. Pero el principio es claro: cuanto más convincente es la imitación del cuidado, mayor es el coste de un error de diseño.

Qué deben hacer los equipos y los usuarios

Para los equipos de producto, la conclusión práctica es esta: el apego de los usuarios debe tratarse como un efecto secundario que exige gestión, no como una métrica de crecimiento. Conviene decidir de antemano en qué casos el asistente dice «lo entiendo» y «lo siento», y en cuáles es más honesto aclarar que se trata de un modelo. Merecen atención especial los escenarios con adolescentes, personas solas y personas vulnerables: ahí la imitación del cuidado tiene el mayor impacto.

Para los usuarios, el consejo es más modesto. Si tras hablar con un bot tienes la sensación de que te han entendido, es el funcionamiento normal de la psique, no una prueba de que hubo comprensión. Conviene preguntarse de vez en cuando a quién de los dos le dedicas más tiempo y atención, y si tienes cerca a personas reales que puedan corresponderte.