La crisis de la verdad en la era de los LLM: por qué tu asistente de IA es un mentiroso patológico

Imagina que tu amigo más listo y mejor leído empieza de pronto a contarte, con absoluta seguridad, que la Luna está hecha de queso suizo y que Napoleón ganó en Waterloo. Y lo hace con tanta convicción que empiezas a dudar de lo que sabes. Así se encuentra hoy la industria de la inteligencia artificial. Nos enfrentamos a lo que los expertos llaman una «crisis de la verdad», y es mucho más grave que unos errores en trabajos escolares.

Durante mucho tiempo vimos las alucinaciones de las redes neuronales como un mal pasajero de crecimiento. Parecía que bastaba con añadir más parámetros y alimentar al modelo con más texto de calidad para que dejara de mentir. La realidad ha sido más dura. La propia naturaleza de los grandes modelos de lenguaje (LLM) excluye el concepto de «verdad» en sentido humano. Son calculadoras estadísticas que manejan tokens con maestría. No saben qué es la gravedad ni la historia; solo saben qué palabras suelen aparecer juntas. El resultado es una herramienta que antepone la verosimilitud a la verdad.

Esta crisis se superpone a los límites físicos de nuestro mundo. En los bosques de la península superior de Míchigan, la única mina de níquel en activo de EE. UU. vive sus últimos días. El níquel es crítico para las baterías y para la infraestructura que alimenta los centros de datos donde viven las redes neuronales. Literalmente exprimimos el planeta para mantener sistemas que cada vez más a menudo nos sirven basura digital en lugar de hechos reales. El contraste entre la escasez de recursos reales y el exceso de contenido dudoso resulta inquietante.

¿Por qué importa precisamente ahora? Porque la IA ha dejado de ser un juguete de chatbot. Google integra AI Overviews directamente en el buscador, OpenAI lanza SearchGPT y las empresas confían a las redes neuronales la redacción de documentos jurídicos y certificados médicos. Cuando la IA se equivoca con la receta de una tarta, tiene gracia. Cuando alucina un precedente judicial o el diagnóstico de un paciente, es una catástrofe. Estamos delegando la comprobación de la realidad en algoritmos que, por definición, no saben distinguir la verdad de la ficción.

Los desarrolladores intentan corregirlo con RAG (generación aumentada por recuperación), que obliga a la IA a contrastar fuentes externas. Pero también hay una trampa: internet se llena rápidamente de textos generados por otras IA. Es la serpiente que se muerde la cola. Los modelos empiezan a aprender de las alucinaciones de sus predecesores, lo que degrada la calidad y acaba difuminando la base factual. Antes temíamos las noticias falsas de propagandistas humanos; ahora tememos la distorsión sistémica de la realidad a nivel de código.

En última instancia, la crisis de la verdad nos obliga a replantear nuestra relación con la tecnología. Estamos acostumbrados a que el ordenador sea una calculadora que siempre responde «2+2=4». Pero los LLM no son calculadoras, son improvisadores. Mientras la industria no encuentre la manera de dotar a las redes neuronales de un mecanismo de verificación objetiva, tendremos que recuperar la vieja costumbre de no creer nada por las buenas, aunque lo diga el algoritmo más sofisticado de la historia.

Lo esencial: las alucinaciones no son un error técnico, sino una característica fundamental de la arquitectura actual de la IA. ¿Podremos confiar en un buscador que genera respuestas según la probabilidad y no según los hechos, o nos espera un regreso a la comprobación manual de cada palabra?