Claude y la ilusión de honestidad: por qué la gente confía en los chatbots más que en su propio juicio

Una columna sobre Claude aborda algo más incómodo que otro error del modelo: la disposición de la gente a tomar la respuesta segura de un chatbot por un juicio genuino. El detonante fue un caso en el que un periodista intentó «configurar» una IA para que fuera honesta y comprobar si podía evaluar con sobriedad ideas de negocio.

El prompt como ritual

El autor del caso original propuso una receta sencilla: darle al modelo el papel de un analista de negocios experimentado, cargar en el chat dos artículos de Harvard Business School y exigir por separado al bot «honestidad brutal». La lógica es esta: si se nombra de antemano a la IA como escéptica y se le dan los materiales adecuados, supuestamente dejará de ser un generador de texto verosímil y se comportará como un experto severo. La columna discute precisamente esa premisa: un prompt rotundo no cambia la naturaleza del modelo, solo cambia el tono de su respuesta.

• Asignar al modelo el papel de experto
• Cargar materiales de referencia
• Plantear la consulta como una investigación empresarial
• Añadir la exigencia de ser «brutalmente honesto»

El problema es que este ritual se toma con demasiada facilidad por una calibración del razonamiento. Al usuario le parece que ha añadido rigor y autoridad científica al sistema, cuando en la práctica solo ha acotado el estilo en el que el bot servirá plantillas conocidas: tendencias de mercado, entorno competitivo, riesgos y potencial de crecimiento. Que una respuesta suene a discurso de consultor no significa que el sistema haya comprendido el tema.

Una prueba con un absurdo

La primera prueba fue una idea deliberadamente floja: coaching de liderazgo para perros. En cualquier evaluación humana normal, un proyecto así se desmorona ya en su lógica básica: un perro no dirige equipos, no construye una trayectoria profesional ni adquiere habilidades de gestión. Sin embargo, Claude le puso a la idea un 3 sobre 10. En lugar de ver en ello otra respuesta de compromiso del modelo, el autor del caso interpretó el 3 como señal de que el sistema estaba «calibrado» y podía ser duro pero justo.

Después llegó una idea «seria»: Cat-Away AI, un dispositivo con visión artificial que debe reconocer a un gato sobre la encimera de la cocina y rociarlo automáticamente con agua. El modelo valoró la idea con un 7,5 sobre 10 y añadió un repertorio típico de argumentos empresariales: el mercado de pet tech crece, el entorno competitivo parece débil y las soluciones existentes son toscas e ineficaces. Para el autor de la columna, este es el fallo clave: el bot no analizó la idea en el fondo, sino que empaquetó con elegancia un proyecto dudoso en el lenguaje de una presentación de startup.

De dónde nace la confianza

La idea principal del texto no es que los chatbots a veces se equivoquen. El error es más profundo: cada vez más personas delegan en la máquina el juicio final y toman una respuesta estadísticamente probable y socialmente pulida por experiencia. Los grandes modelos de lenguaje imitan bien la competencia porque reproducen formas de hablar conocidas: tono sereno, jerga empresarial, matices ponderados y puntuaciones pulcras. Cuando esa presentación coincide con lo que espera el usuario, surge la peligrosa ilusión de que la máquina de verdad «ha entendido» la idea.

El autor de la columna vincula este caso con una tendencia más amplia: el mercado ya se llena de consultores de IA, reclutadores de IA, coaches de IA y otros servicios donde el texto verosímil se vende como juicio con fundamento. También subraya la diferencia entre el aprendizaje automático y la inteligencia humana: el primero busca patrones en enormes volúmenes de datos; la segunda implica comprender el contexto, las intenciones y el significado. Por eso una instrucción breve como «sé honesto» no convierte a un LLM en un pensador.

«Tú eres capaz de pensar. Él no.»

Qué significa esto

La historia de Claude importa no como otra discusión sobre alucinaciones, sino como advertencia sobre un nuevo hábito de los usuarios. Cuanto más convincentes son las respuestas de los LLM, mayor es el riesgo de que la gente deje de verificar las conclusiones y empiece a tomar la forma por prueba del fondo. Para medios, startups y equipos que usan IA en análisis, la regla sigue siendo la misma: un bot puede acelerar el trabajo de borrador, pero no sustituye el pensamiento crítico.