Las redes neuronales mienten con aplomo: dónde se equivoca la IA y por qué no lo notamos

Las redes neuronales ya son una herramienta habitual, pero tienen una propiedad traicionera en la que muchos no piensan. Dan respuestas con la misma seguridad cuando aciertan y cuando se equivocan por completo.

Seguridad sin comprensión

La mayoría de los modelos de lenguaje no saben decir «no lo sé» cuando toca. Están entrenados para dar respuestas coherentes y gramaticalmente correctas, y lo hacen incluso cuando no hay datos para responder o estos están desfasados. El modelo no «piensa» en el sentido habitual: predice el siguiente token a partir de patrones de su muestra de entrenamiento. Por eso la IA nombra con la misma seguridad la fecha correcta de un hecho histórico y se inventa un artículo científico inexistente con nombres de autores reales. Para el modelo, ambas respuestas son simples continuaciones de texto estadísticamente probables. No existe un «detector de verdad» interno.

Dónde se dan más errores

Hay varias zonas de riesgo elevado donde las redes neuronales fallan con especial frecuencia y de forma predecible:

• Hechos con fechas: todo lo ocurrido después de la fecha de entrenamiento del modelo falta o aparece distorsionado
• Números y cálculos: las redes neuronales suelen «adivinar» la aritmética en lugar de calcularla
• Detalles legales y médicos: los modelos generalizan sin tener en cuenta la jurisdicción, las dosis ni la vigencia de la legislación
• Enlaces y fuentes: alucinar DOI, URL o títulos de libros es un clásico: las referencias parecen verosímiles, pero no existen
• Temas poco comunes: cuantos menos datos sobre un tema haya en la muestra de entrenamiento, mayor es la probabilidad de invención

El problema no es que haya errores. El problema es que, por fuera, son indistinguibles de las respuestas correctas.

Por qué un error seguro es peor que uno evidente

Si la red neuronal se confunde de forma visible o dice «no estoy seguro», es fácil notarlo. Pero cuando el modelo entrega un texto seguro, gramaticalmente limpio y de apariencia lógica, el cerebro lo percibe como fiable. Confiamos en lo que parece una respuesta experta.

«Responden con la misma seguridad cuando aciertan y cuando sueltan,

sin inmutarse, una tontería absoluta», y ahí está la raíz del problema.

Es especialmente peligroso en el ámbito laboral: especificaciones técnicas, detalles legales, recomendaciones médicas, cálculos financieros. Un error bien presentado es fácil de copiar directamente en un documento o una presentación, y nadie lo nota hasta el último momento.

Hay un riesgo adicional: nos acostumbramos a confiar en la IA para cosas menores y trasladamos esa confianza a decisiones importantes. El hábito de «preguntarle a ChatGPT» sustituye poco a poco la consulta de la fuente primaria.

Cómo pillar los errores

Algunas reglas prácticas que reducen el riesgo:

• Verifica los hechos manualmente: pide al modelo enlaces y ábrelos tú mismo. Si el enlace no existe, es una señal de alarma
• Repite la pregunta con otras palabras: una formulación distinta de la misma pregunta a veces da respuestas distintas, y eso ya es una señal de inseguridad del modelo
• Usa modelos con búsqueda: Perplexity, ChatGPT con Browsing o Gemini al menos citan fuentes reales
• No confíes en los números sin comprobarlos: calcula tú mismo o usa una calculadora
• Para tareas críticas, usa la IA como borrador: un punto de partida, no la fuente final

Qué significa esto

La IA es una herramienta potente, pero no un oráculo. Su principal trampa no es que se equivoque: se equivocan todos. La trampa es que no avisa. Mientras los modelos no aprendan a decir con honestidad «aquí no estoy seguro», la responsabilidad de verificar sigue en manos de la persona.