Un LLM sube el F1 de un clasificador del 45 % al 82 % editando pesos, sin entrenamiento

Imagine un clasificador que confunde gatos con perros, sin datos ni tiempo para un nuevo entrenamiento. Normalmente, un ingeniero de ML busca el error en el dataset, cambia la arquitectura o lanza otro ciclo de entrenamiento. En el experimento descrito, este trabajo se encargó a un gran modelo de lenguaje: se le dio acceso a los pesos de una red neuronal pequeña, se le permitió hacer un número limitado de ejecuciones de verificación y se le pidió mejorar el resultado directamente.

El resultado resulta llamativo: el F1 del clasificador subió del 45 % al 74 % tras el trabajo de un LLM, y hasta el 82 % tras cambios más profundos de otro. Pero la fórmula «un modelo lee el cerebro de otro» aquí estorba más que ayuda. Todavía no ha aparecido un lenguaje universal de los pesos. El LLM usó arquitecturas conocidas, métodos de interpretabilidad familiares y la retroalimentación de las métricas.

Cómo funcionó

Como sujeto de prueba se usó MobileNetV3-Small, que clasificaba imágenes en tres clases: gatos, perros y otros animales. Tras cada edición, el LLM podía ejecutar inferencia y ver si la métrica había mejorado. En total se le dieron diez intentos.

La primera estrategia fue bastante sencilla: modificar la última capa del clasificador, donde las características se convierten en probabilidades de clase. Eso ayudó, pero casi no decía nada sobre la capacidad de comprender la estructura interna de la red. Cuando se prohibió tocar la última capa, el LLM fue más profundo: encontró canales que producían señales dañinas y sustituyó sus salidas por valores promediados. Después de eso, el F1 alcanzó el 82 %.

En términos cotidianos, es como reparar un mando a distancia con decenas de botones. El técnico no tiene que entender cada transistor. Pulsa botones, mide el resultado y poco a poco encuentra el componente que estropea la señal. La diferencia es que un LLM puede escribir por sí mismo el guion de esa comprobación, leer la estructura del modelo y elegir la siguiente edición.

Dónde termina la magia

El experimento no demuestra que un LLM entienda un conjunto arbitrario de pesos como un lenguaje propio. Las arquitecturas de los modelos populares, los nombres de las capas y los métodos de interpretabilidad mecanicista están descritos en detalle en código abierto y publicaciones científicas. Todo esto pudo haber entrado en los datos de entrenamiento del gran modelo.

Además, la retroalimentación desempeñó un papel importante. Cuando se permite a un LLM cambiar los pesos repetidamente y observar la métrica, el proceso empieza a parecerse a una optimización por ensayo y error. Si el conjunto de control es pequeño o se usa mal, el agente puede ajustar los cambios a él. La mejora en un conjunto de datos independiente reduce este riesgo, pero no elimina la necesidad de reproducir el experimento.

Las afirmaciones sobre reconocer la finalidad de un modelo solo por sus pesos también deben leerse con cautela. Los tamaños de las matrices, del vocabulario y de las entradas suelen delatar la familia de la arquitectura. Y una descripción detallada del formato de entradas y salidas en la tarea puede, de hecho, sugerir la finalidad de la red.

Qué llevarse a la práctica

El valor práctico no está en la «telepatía» entre modelos. Está en la aparición de un agente capaz de automatizar el diagnóstico y la reparación puntual de redes neuronales pequeñas. Este enfoque será útil para modelos edge, clasificadores antiguos y sistemas donde el dataset original se ha perdido o reentrenar resulta demasiado caro.

Los desarrolladores deberían tratarlo como una herramienta experimental: conservar los pesos originales, limitar el número de iteraciones, separar el conjunto de trabajo de la prueba final y comprobar la robustez de cada cambio. Los equipos de seguridad tendrán que considerar los archivos de pesos como un activo ejecutable: un agente con derecho a modificarlos puede no solo mejorar el modelo, sino también eliminar restricciones o incorporar un comportamiento nuevo sin que se note.

El cambio principal es real. El LLM deja de ser solo un generador de código y se convierte en operador de herramientas de ML. Sin embargo, entre ese operador y un neurocirujano autónomo aún hay una gran distancia.