GPT-6 Astra modificó el 0,016% de los pesos de Qwen y elevó la precisión al 48,1%

Cuando un modelo de lenguaje pequeño entra en bucles, calcula mal o ignora instrucciones, la receta habitual es conocida: recopilar datos, ejecutar un ajuste fino y comprobar que ninguna otra cosa se haya roto. Investigadores del MIT mostraron otro enfoque. GPT-6 Astra obtuvo acceso a los pesos del modelo, encontró la zona relacionada con el fallo y reescribió una fracción minúscula de los parámetros. En un experimento con Qwen3.5-0.8B, modificar solo el 0,016% de los pesos elevó la precisión en MATH-500 del 7,9% al 48,1%.

No es un botón mágico ni sustituye al entrenamiento. Sin embargo, la idea resulta muy práctica para los equipos que mantienen sus propios modelos: en lugar de realizar una costosa pasada por todo el conjunto de datos, pueden intentar localizar un defecto interno concreto y corregirlo de manera selectiva.

Cómo un modelo programa a otro

Los pesos de una red neuronal son enormes tablas de números. Por lo general, una persona no puede examinarlos y deducir para qué fue entrenada la red o por qué se comporta de determinada manera. En los experimentos, Astra resolvió parte de estas tareas: identificó el juego para el que se había entrenado una red pequeña, reconoció el tipo de imágenes de un generador y relacionó pequeños modelos de lenguaje con los idiomas usados para entrenarlos. Todo ello sin los datos de entrenamiento originales y, en ocasiones, incluso sin ejecutar el propio modelo.

El ejemplo más claro son los videojuegos sencillos. Los investigadores proporcionaron a Astra las reglas y el código, tras lo cual creó directamente los pesos de redes capaces de jugar. En Breakout, una red de este tipo obtuvo una media de 517 puntos, frente a los 25 de un modelo de referencia entrenado de forma convencional durante más de 100 millones de rondas. No obstante, en otros dos juegos, los modelos que habían recibido más entrenamiento siguieron siendo superiores. Por tanto, todavía no se trata de una victoria sobre el entrenamiento clásico, sino de una nueva manera de abordar tareas pequeñas y bien delimitadas.

En un experimento con Go sobre un tablero de 9×9, Astra controló una red de aproximadamente 1,5 millones de parámetros. Se le concedieron 50 iteraciones: en cada una, la red disputaba hasta 128 partidas de entrenamiento, mientras Astra estudiaba el resultado y ajustaba los pesos. El modelo resultante superó a una red de tamaño comparable entrenada con aproximadamente 20 millones de partidas.

Qué ocurrió con Qwen

Qwen3.5-0.8B presentaba un problema conocido: el modelo podía entrar en un bucle y repetir su razonamiento sin llegar a una respuesta. Astra recibió un entorno para trabajar con código, tareas de entrenamiento y 50 intentos para corregirlo. Después, el resultado se evaluó con ejemplos diferentes que Astra no había visto durante el ajuste.

Tras modificar el 0,016% de los parámetros, la precisión en MATH-500 subió del 7,9% al 48,1%, y el indicador de seguimiento de instrucciones pasó del 21% al 62%. La proporción de respuestas que alcanzaban la longitud máxima cayó del 93% a aproximadamente el 33%. Sigue siendo una cifra elevada, por lo que aún es pronto para considerar resuelto el problema.

El resultado negativo también es revelador. En Gemma 3 270M, que apenas sufría estos bucles, Astra no logró producir una mejora medible. Los autores plantean que Qwen ya contaba con las capacidades matemáticas necesarias, pero un fallo interno impedía utilizarlas. Astra eliminó ese "freno" en vez de incorporar una habilidad nueva al modelo.

Qué deben hacer los desarrolladores

Por ahora, Weight-Space Programming debe entenderse como una herramienta de investigación. Puede resultar útil para buscar defectos, realizar auditorías de seguridad y corregir de forma selectiva el comportamiento de modelos pequeños. Sin embargo, todavía es pronto para trasladar los resultados a grandes LLM de producción: los experimentos son limitados, aún no existe una prueba universal y algunas tareas exigieron ejecutar el modelo y utilizar los resultados como retroalimentación.

La conclusión práctica es sencilla. Si un equipo mantiene un modelo pequeño y especializado, le conviene seguir esta línea de trabajo y conservar pruebas de comportamiento detalladas: son esas pruebas las que permiten determinar si una reparación selectiva supera a un ajuste fino completo. Pero los pesos de un modelo en producción no deben modificarse sin una evaluación independiente, pruebas de regresión y la posibilidad de revertir los cambios. La reparación selectiva parece más barata que el entrenamiento, pero el coste de un error no desaparece.