Un ingeniero termomecánico monta un enjambre de seis LLM pequeños: dividir la tarea en secciones multiplica por 4 el rendimiento del modelo débil

El jefe de departamento de una organización de proyectos, un ingeniero termomecánico con catorce años de experiencia en diseño, se propuso esta primavera crear con modelos locales débiles un enjambre más inteligente que el más fuerte de ellos. No ha sido programador ni un solo día y lleva menos de un año trabajando con redes neuronales. El enjambre no se volvió más listo. Pero la medición mostró que, de toda la estructura organizativa de un instituto de proyectos, solo una pieza soporta la carga: dividir la tarea en secciones. Al modelo débil le dio una mejora de aproximadamente cuatro veces, y el enjambre completo, a juzgar por el titular del autor, sumó unos cinco puntos.

Conviene tener en cuenta que de la fuente solo está disponible el anuncio de la publicación en Habr, sin tablas ni metodología. A continuación se analiza lo que el anuncio afirma, y las cifras y sus unidades conviene contrastarlas con el texto completo.

Un instituto en lugar de una manada

La idea resulta familiar para cualquiera que haya trabajado en una organización de proyectos. Una tarea no la resuelve una sola persona. Hay un jefe de proyecto, departamentos por secciones, revisores y aprobaciones. El autor distribuyó seis modelos pequeños según este esquema y observó qué elementos dan resultado y cuáles solo añaden correspondencia entre agentes.

La hipótesis era típica de los experimentos multiagente: si se reúnen muchos ejecutores débiles y se coloca sobre ellos un circuito de control, la calidad conjunta superará a la del mejor participante. Esa hipótesis no se confirmó. El enjambre no superó al modelo más fuerte de su propia composición.

Qué mostró la medición

Aquí el resultado negativo es más útil que uno positivo. El autor no se limitó a informar de que el enjambre no despegó: identificó un mecanismo concreto que sí funciona. Las tesis principales del anuncio:

• Composición: seis modelos locales pequeños de distinta potencia.
• Objetivo: obtener un enjambre que supere al modelo más fuerte del conjunto. No se alcanzó.
• División de la tarea en secciones: aportó al modelo débil una mejora de aproximadamente ×4.
• Enjambre en conjunto: según el titular, unos cinco puntos. El anuncio no revela las unidades de medida.
• Asimetría: el modelo débil gana más con la división que el fuerte.

Una explicación plausible, que es interpretación nuestra y no una cita del autor: un modelo pequeño retiene mal una condición larga con varios requisitos simultáneos. Cuando se le entrega una sola sección acotada, con una entrada y una salida claras, resuelve una tarea en la que antes se desmoronaba. El modelo fuerte tiene más margen de contexto y de razonamiento, así que la fragmentación le aporta menos. Es probable que el papel institucional del «revisor» y las demás capas de aprobación no aportaran mejora o aportaran mucha menos.

Qué hacer con esto en la práctica

Para quienes construyen pipelines locales con modelos pequeños, la conclusión es pragmática. Antes de levantar una jerarquía de jefe, ejecutores y revisores, conviene comprobar una sola cosa: qué aporta la simple división de la tarea en partes independientes, con plantillas rígidas de entrada y salida. Es más barato en tokens y latencia que una orquestación multicapa y, a juzgar por las mediciones del autor, es lo que produce el efecto principal.

Segundo. La línea base no debe ser el modelo medio del enjambre, sino el más fuerte de los disponibles. Un enjambre que no supera a su mejor participante, en esencia, paga llamadas de más sin obtener nada a cambio.

Tercero, sobre el propio formato. Es un caso poco frecuente: el experimento lo plantea una persona de un sector vecino, con su mirada de ingeniero sobre la organización del trabajo. Los institutos de proyectos llevan siglos buscando cómo repartir la responsabilidad sin perder calidad. Qué parte de esa experiencia se traslada a los LLM y cuál no, es mejor verlo en el texto completo del autor: ahí deberían estar la metodología, el conjunto de tareas y el desglose por modelos.