Redes neuronales y matemáticas: por qué los LLM fallan en los cálculos

Una red neuronal puede equivocarse incluso en matemáticas simples y entregar con seguridad un resultado erróneo al multiplicar números de seis cifras: los dígitos de los extremos son correctos y el error está en el medio. No es un bug ni un defecto de un modelo concreto. Un transformador predice tokens a partir de estadísticas; no ejecuta el algoritmo de la multiplicación en columna.

Token frente a algoritmo: cuál es la diferencia

La multiplicación en columna es un procedimiento con órdenes de magnitud, acarreos, sumas intermedias y un orden estricto de operaciones. Un procesador lo ejecuta. Un escolar lo ejecuta. Un transformador, en una sola pasada, no: genera un texto parecido a la respuesta correcta apoyándose en la estadística de sus datos de entrenamiento.

La aritmética corta funciona como memoria, no como cálculo:

• La tabla de multiplicar aparece millones de veces en los datos de entrenamiento
• El modelo no calcula "7 × 8 = 56": lo recuerda
• Con números de dos o tres cifras todavía hay suficientes patrones conocidos
• Con seis cifras casi no hay ejemplos conocidos y el modelo empieza a "continuar de forma verosímil"
• La seguridad al dar la respuesta no guarda relación con la exactitud del resultado

¿Por qué el error aparece justo en el medio del número?

Los dígitos extremos del resultado pueden deducirse de las primeras y últimas cifras de los factores, un patrón que el modelo aprende. Los dígitos centrales exigen una cadena real de acarreos, que el transformador no construye en una sola pasada autorregresiva.

La firma típica: el extremo derecho (unidades, decenas) y el izquierdo (órdenes superiores) suelen ser correctos, mientras que los dígitos centrales son inventados. Además, el modelo no tiene una señal interna de "no estoy seguro": el predictor de tokens simplemente continúa la secuencia de la forma más verosímil posible.

Cómo lo resuelve la industria

La solución no vino de la arquitectura, sino de fuera: las herramientas. Code Interpreter en ChatGPT, bloques de Python en Claude, llamadas a una calculadora mediante function calling. El modelo delega el cálculo en quien sabe calcular.

«Lo hace, y con bastante éxito, solo que no donde parece» — el

progreso no consiste en enseñar a los LLM a calcular por sí solos, sino en que sepan invocar la herramienta adecuada.

Chain-of-thought (el registro explícito de los pasos intermedios) ayuda en parte: la precisión con números de varias cifras aumenta. Pero cada token de la cadena es en sí una predicción, de modo que esta técnica no ofrece una fiabilidad del 100 %.

En paralelo avanzan las investigaciones sobre ajuste fino especializado en matemáticas: los modelos entrenados sobre todo con textos científicos comprenden mejor los problemas. Pero tampoco sustituyen a un calculador: su valor está en plantear bien el problema a la herramienta, no en contar por sí mismos.

Qué significa

Esperar de un LLM el comportamiento de una calculadora es un malentendido arquitectónico. El patrón correcto: el modelo entiende la tarea, construye la lógica, delega los números en una herramienta e interpreta el resultado. Confiar la economía unitaria a un chat sin herramientas equivale a poner a prueba no el modelo, sino la suerte.

Preguntas frecuentes

¿Por qué el modelo no avisa de que no sabe calcular?

Un modelo de lenguaje no tiene una señal interna de incertidumbre al generar un número. Emite el siguiente token con mayor probabilidad y lo hace con la misma seguridad tanto si el resultado es correcto como si no. Es una propiedad fundamental de la generación autorregresiva, no un error de código.

¿Ayuda el chain-of-thought en aritmética compleja?

Sí, pero de forma limitada. Escribir los acarreos paso a paso mejora la precisión, porque el modelo "ve" los resultados intermedios como contexto de la siguiente predicción. Sin embargo, cada paso sigue siendo una predicción y los errores se acumulan, así que los cálculos críticos requieren una herramienta externa.

¿Por qué una red neuronal se equivoca en matemáticas?

Un transformador predice tokens a partir de la estadística de sus datos de entrenamiento; no ejecuta un algoritmo matemático como lo hace un procesador o una persona.