Meta presenta Autodata, un sistema agéntico para crear datos de entrenamiento de calidad

El 1 de mayo, Meta presentó Autodata, un marco en el que agentes LLM recopilan, verifican y refinan por sí mismos conjuntos de datos de entrenamiento. La idea es convertir el modelo, de simple generador de datos sintéticos, en un científico de datos autónomo que mejora de forma iterativa la calidad de los ejemplos.

Para qué sirve Autodata

Los datos sintéticos son desde hace tiempo una de las principales vías para acelerar el entrenamiento de modelos: son más baratos que el etiquetado manual, ayudan a cubrir escenarios poco frecuentes y permiten generar tareas más complejas que las que se encuentran fácilmente en corpus abiertos. Pero la mayoría de los enfoques populares, de Self-Instruct a las variantes grounded y CoT, comparten un límite: crean los datos en una sola pasada y el control de calidad llega después de la generación, mediante filtrado o retoque manual.

Autodata cambia la lógica del proceso. En lugar de generar ejemplos una vez y confiar en que algunos salgan buenos, Meta propone un ciclo cerrado parecido al trabajo de un investigador de datos humano. El agente parte de documentos fuente, crea tareas, analiza dónde son demasiado fáciles, demasiado ruidosas o poco útiles, y luego reescribe su propia receta de generación y vuelve a intentarlo. En la práctica, el cómputo de inferencia adicional no se dedica solo a las respuestas del modelo, sino también a mejorar los datos con los que después aprende.

Cómo funciona el ciclo

La primera implementación práctica del marco se llama Agentic Self-Instruct. En ella, un LLM central actúa como orquestador y dirige a varios agentes especializados, cada uno responsable de una etapa de verificación de calidad. Esta cadena existe para que en el conjunto de datos entren no solo ejemplos correctos, sino aquellos en los que el modelo fuerte rinde de forma consistente mejor que el débil. Como base, el agente usa materiales fuente como artículos científicos, código u otros documentos temáticos.

• Challenger crea una nueva pregunta, un contexto, una respuesta de referencia y una rúbrica de evaluación a partir del documento fuente.
• Weak solver intenta resolver la tarea en un modo limitado y debe fallar notablemente más a menudo.
• Strong solver resuelve la misma tarea con una configuración más potente y debe superar el umbral de calidad.
• Verifier/Judge comprueba el propio ejemplo y después evalúa las respuestas de ambos modelos según criterios predefinidos.

Si la pregunta es demasiado simple, el modelo débil obtiene demasiados puntos y el ejemplo se descarta. Si es demasiado difícil, el modelo fuerte tampoco la supera y el agente debe buscar otro enfoque. Para aceptar un ejemplo, Meta aplica umbrales concretos: el resultado medio del weak solver no debe superar el 65 %, el del strong solver no debe ser inferior al 60 % ni superior al 95 %, y la brecha entre ambos debe ser de al menos 20 puntos porcentuales. Cada documento suele pasar por varias rondas de este reprocesado.

«La creación agéntica de datos permite convertir el cómputo de inferencia adicional en un entrenamiento de modelos de mayor calidad».

Qué mostraron las pruebas

Meta probó Agentic Self-Instruct en tareas científicas de ciencias de la computación. El sistema procesó más de 10 mil artículos del corpus S2ORC de 2022 en adelante y reunió 2117 pares de pregunta y respuesta que superaron todos los filtros de calidad.

El resultado clave no es solo más datos, sino mayor poder discriminante. Con el CoT Self-Instruct habitual, los modelos débil y fuerte obtenían resultados casi iguales: 71,4 % frente a 73,3 %, una brecha de solo 1,9 puntos. En modo agéntico, el weak solver cayó al 43,7 % y el strong solver subió al 77,8 %, con lo que la brecha se amplió a 34 puntos.

Después, Meta optimizó no las preguntas, sino el comportamiento del agente científico de datos. En un ciclo externo, un optimizador evolutivo lanzaba nuevas versiones del almacén de prompts y de la lógica de evaluación, y conservaba solo las que mejoraban el resultado de validación. En total hubo 233 iteraciones, de las cuales se aceptaron 126, y la proporción de ejecuciones exitosas subió del 12,8 % al 42,4 %.

Entre las mejoras halladas automáticamente figuran una comprobación más estricta de que la pregunta esté ligada al artículo concreto, una protección contra la filtración de la solución en el contexto, la eliminación de pesos negativos en las rúbricas y la conversión de los criterios a un formato JSON estricto. Y esto ya cambia la economía del posentrenamiento.

Qué significa

Autodata sugiere que la siguiente capa de competencia en IA puede pasar de «quién entrenó el modelo más grande» a «quién construyó la mejor cadena de datos». Para los equipos aplicados esto es especialmente relevante: en lugar de un etiquetado manual interminable, pueden invertir cómputo en un agente que seleccione por sí mismo ejemplos difíciles, precisos y realmente útiles para el ajuste fino y la evaluación de modelos.

*Meta está reconocida como organización extremista y prohibida en Rusia.