El autor de LANN-4 demuestra que el reentrenamiento repetido de un LLM pequeño choca con un techo

Si se reentrena un mismo modelo de lenguaje pequeño con ejemplos durante varias rondas seguidas, no mejora de una ronda a otra. La primera ronda aporta una mejora apreciable y después el progreso se detiene. Es la conclusión a la que llega el autor de una serie de notas en Habr, cuyos experimentos se ejecutan en un modelo que cabe en una tarjeta gráfica doméstica corriente. El siguiente experimento consumirá aproximadamente un día de GPU y, antes de lanzarlo, el autor pide a los lectores que busquen puntos débiles en el esquema de verificación.

Por qué se empezó todo esto

En el primer artículo, el autor planteaba una pregunta: ¿puede un modelo pequeño volverse más inteligente con el tiempo sin aumentar el número de parámetros? En lugar de inflar los pesos, apostaba por tres elementos: memoria, ajuste fino cuidadoso y verificación de las respuestas. En el segundo texto explicó adónde lleva todo esto. Los experimentos son pasos hacia la arquitectura LANN-4, una red neuronal que aprende durante toda su «vida». Debería tener un «cerebro» pequeño e inmutable y una memoria situada fuera de él.

El autor aclara desde el principio que la propia LANN-4 todavía no existe. La arquitectura no está elegida ni construida, y los modelos de los experimentos son solo instrumentos de prueba. La publicación no incluye ningún producto terminado ni benchmarks del nuevo sistema. Es un informe de investigación, y con resultado negativo.

Qué no funcionó

Se puso a prueba algo sencillo: si la acumulación produce efecto cuando se reentrena el mismo modelo con ejemplos muchas veces seguidas. No hubo acumulación. Del texto se desprende este panorama:

• tamaño del modelo: cabe en una tarjeta gráfica doméstica corriente;
• primera ronda de ajuste fino: mejora apreciable de la calidad;
• rondas posteriores: el crecimiento se detiene y el techo se alcanza rápido;
• conclusión del autor: el simple reentrenamiento repetido no convierte a un modelo pequeño en un sistema que mejora durante toda su vida;
• coste de la prueba decisiva: alrededor de un día de funcionamiento de la tarjeta gráfica.

El anuncio no explica las causas de que el progreso se detenga; al parecer se analizan en el texto principal. En la bibliografía sobre aprendizaje continuo suelen señalarse el olvido de lo aprendido previamente, la saturación con datos de un mismo tipo y el límite de capacidad del propio modelo. Pero eso es contexto general, no afirmaciones del autor. A partir del anuncio no se puede saber cuál de estas explicaciones se aplica aquí.

Por qué el resultado es útil

Los resultados negativos se publican poco en los experimentos abiertos con IA, aunque ahorran tiempo a los demás. Este, además, afecta a una cuestión práctica. La idea de un «cerebro pequeño y fijo más memoria externa» resulta atractiva: promete aprendizaje sin reentrenar todos los pesos y funcionamiento en hardware de consumo. Pero si el propio modelo deja de asimilar información nueva tras la primera iteración, toda la carga recae en la memoria externa y en el mecanismo de verificación de respuestas. Hacia ahí desplaza el autor su atención.

Merece mención aparte el formato: el autor no lanza directamente la prueba decisiva, sino que publica su diseño de antemano para someterlo a crítica. Un día en una sola GPU no es muy caro, pero en un equipo doméstico significa un día sin otros experimentos. Un error en el planteamiento saldrá más caro que el propio cálculo.

Qué deben hacer los profesionales con esto

Si ajusta modelos pequeños para sus propias tareas, la nota deja tres lecciones. No espere que las rondas repetidas con los mismos datos den una mejora comparable: mida la calidad tras cada ronda con un conjunto de validación reservado y deténgase cuando la curva llegue a una meseta. Mantenga la verificación de respuestas separada de los datos de entrenamiento; de lo contrario, puede confundir un techo con progreso o al revés. Y si le interesa el aprendizaje continuo, consulte el artículo original en Habr e intente encontrar fallos en el esquema del experimento decisivo: el autor lo pide expresamente antes de ejecutarlo.