Kolab: 115 horas de grabaciones muestran que los agentes de IA no entienden a sus colegas humanos

Investigadores de Minnesota NLP han publicado Kolab, un dataset y benchmark para evaluar cómo trabajan los agentes de IA junto a las personas, y no en su lugar. Se basa en más de 115 horas de grabaciones de pantalla: 50 profesionales de 40 especialidades resolvieron con agentes tareas realistas de largo horizonte. La conclusión principal resulta incómoda para la industria. Los modelos de frontera, tanto agénticos como convencionales, sobrestiman la calidad de la colaboración y distinguen mal la buena de la mala.

Qué ocurre con la respuesta del agente después del chat

La mayoría de los benchmarks populares para agentes miden la automatización: si el agente resolvió la tarea en un solo intento. Los autores de Kolab, entre ellos Shirley Anugrah Hayati, Patricia Anugrah Setiani, Ruizi Wang, Zhouyi Li, Han Chi Le, Yong-Jun Lee y Dongyeop Kang, parten de otra observación. En tareas largas, las personas valoran más la interacción continua con el agente, por ejemplo revisar el plan, que su capacidad de completar el trabajo a la primera.

Los procesos profesionales resultan adecuados para esta comprobación. Sus pasos dependen unos de otros: una decisión en la segunda etapa cambia todo lo que viene en la quinta. Kolab registra cómo se comunican los expertos con el agente, qué toman de sus respuestas y qué corrigen. Los participantes también evaluaron por sí mismos la calidad de la colaboración y del resultado final. El resultado es poco habitual: datos sobre lo que hacen las personas con la aportación del agente cuando esta ya ha salido de la ventana del chat.

El análisis mostró distintos patrones de interacción. Mucho depende de cuándo y cómo el especialista incorpora al agente a su trabajo.

Dos pruebas que no existen en los benchmarks de automatización

Los autores consideran que un agente colaborativo debe saber hacer dos cosas, y ninguna de ellas la comprueban las pruebas de automatización. De ahí las dos tareas del benchmark:

• Predicción del uso de la aportación del agente. El modelo debe predecir qué hará el experto con la propuesta del agente: aceptarla, modificarla o rechazarla. De ello dependen los siguientes pasos del agente.
• Verificación de las valoraciones de la colaboración. A partir de un flujo de trabajo en desarrollo, sin retroalimentación constante del experto, el modelo debe determinar cuán satisfecho está el participante con la colaboración y cuál es la calidad del resultado.

El dataset abarca 50 participantes, 40 profesiones y más de 115 horas de grabación. Incluye las valoraciones de los propios especialistas, de modo que el estándar de referencia es la opinión de la persona y no una métrica automática.

Dónde fallan los modelos

Los resultados fueron homogéneos. Los modelos de frontera de ambas categorías, agénticos y no agénticos, sobrestiman de forma sistemática la calidad de la colaboración con los expertos. También les cuesta distinguir una interacción de alta calidad de una de baja calidad. En esencia, el modelo tiende a dar por bueno lo ocurrido, incluso cuando el experto quedó insatisfecho o reescribió la mitad de lo propuesto.

El resultado menos intuitivo tiene que ver con el contexto. Un historial más largo del flujo de trabajo no mejora las predicciones de forma consistente. La solución habitual de «démosle al modelo más información sobre el curso del trabajo» no funciona aquí. El problema, a juzgar por los datos, no es la falta de tokens, sino la incapacidad de leer las señales: cómo reacciona la persona, qué corrige en silencio, cuándo deja de confiar.

Qué deben hacer los desarrolladores de agentes

Para los equipos que construyen agentes para uso profesional, Kolab ofrece dos referencias prácticas. La primera: conviene añadir a las métricas de éxito de las tareas métricas de aceptación de la aportación. Un agente que resuelve el 80% de las tareas en un solo intento, pero cuyos resultados los expertos reescriben, es en la práctica menos útil de lo que sugiere la tabla de clasificación. La segunda: la autoevaluación del agente no es fiable. Si el modelo sobrestima la calidad del trabajo conjunto, no se puede confiar en sus propias señales de «todo va bien» para decidir de forma automática cuándo pedir confirmación a una persona.

A los investigadores, el dataset les ofrece material para entrenar modelos que predigan la reacción del experto. El código y los datos están publicados en abierto, en la página del proyecto de Minnesota NLP y en un repositorio de GitHub. El artículo salió en arXiv con el número 2610.21109 y entró en la selección diaria de Hugging Face Papers.

Conviene tener presente la limitación clave: 50 participantes son una muestra pequeña, aunque la cobertura de 40 profesiones es amplia. Pero la dirección está clara. Mientras los agentes no sepan predecir qué hará el experto con su resultado, seguirán siendo una herramienta de automatización y no un compañero de trabajo.