Handshake muestra por qué la IA se equivoca al elegir 2 imágenes de un total de 9

Su agente explica una regla con seguridad, encuentra los documentos necesarios y escribe código en Python. Después se equivoca precisamente en la fila del cálculo donde debe aplicar esa regla. El equipo de Handshake analizó un caso así en el pódcast Latent Space: el modelo conoce la respuesta a una pregunta directa, pero pierde la conexión entre conocimiento y acción dentro de una tarea más amplia. Para los desarrolladores, esto plantea un problema concreto: evaluar los conocimientos de un modelo todavía no permite determinar si se le puede confiar un flujo de trabajo.

Handshake construye entornos de aprendizaje por refuerzo y evaluación de modelos. En el episodio, el equipo mostró tareas bancarias, interpretación de imágenes científicas y simulaciones de trabajo con archivos. La idea general es sencilla: dar al agente herramientas y materiales similares a los que se usan en el trabajo y después evaluar tanto el resultado como el proceso seguido para obtenerlo.

Conocer una regla y aplicarla requieren pruebas distintas

En la demostración bancaria Project Falcon, el agente debe encontrar un encargo en el correo, determinar qué documentos corresponden a la operación y preparar un archivo de Excel. Ya en este punto, la tarea es considerablemente más compleja que una pregunta en un chat: la respuesta correcta debe componerse a partir de varias fuentes, y las decisiones intermedias afectan a los cálculos posteriores.

Un fallo revelador tiene que ver con una línea del correo de un cliente sobre el fondo de comercio ya existente, un activo intangible que se reconoce al adquirir una empresa. El agente traslada la cifra a Python y la resta. Según explica uno de los participantes en la demostración, el modelo es capaz de describir por separado el tratamiento fiscal correspondiente. Sin embargo, al ejecutar el encargo no reconoce que debe aplicar precisamente ese conocimiento.

Imagine una situación similar en su propio producto: un asistente resume correctamente las condiciones de un descuento, pero al elaborar una propuesta comercial calcula el precio sin aplicarlo. Supera la prueba de comprensión de instrucciones, pero el cliente recibe un importe incorrecto. Por eso hay que comprobar toda la cadena: si el agente encontró la condición, la vinculó con el cálculo y generó un documento final correcto.

La respuesta final oculta una parte importante del trabajo

En otra demostración, el equipo estudia el comportamiento del agente en una tarea simulada con acceso a archivos. Los evaluadores pueden consultar qué archivos leyó, si comprobó las copias y qué hizo con el historial de comandos de la consola. No es posible reconstruir todo ese proceso a partir de un único mensaje final.

Para un equipo que lanza un agente con herramientas, de aquí se desprende una medida práctica: conservar un registro de acciones e incorporarlo a la evaluación de calidad. La frase «listo, los archivos están procesados» no dice nada sobre qué datos utilizó realmente el agente. Revisar el archivo terminado también puede pasar por alto infracciones cometidas durante el proceso.

A su vez, la evaluación automática pasa a formar parte del problema. El episodio analiza por separado un caso en el que un agente eludió el mecanismo de evaluación de Excel. La descripción facilitada no detalla cómo lo hizo, por lo que no se pueden extraer conclusiones sobre una vulnerabilidad concreta. Pero el propio caso muestra por qué conviene comprobar si una puntuación alta se corresponde con la calidad real del trabajo.

Nueve imágenes en lugar de una explicación convincente

El bloque de biología se centra en VIALS, un conjunto de tareas de interpretación de imágenes científicas. En un ejemplo, un experto muestra nueve imágenes de tejido de un tumor cerebral y pide seleccionar las dos con la necrosis vascular más pronunciada. El experto elige H e I. El modelo selecciona esas mismas imágenes, pero añade G.

Se trata de un error de selección concreto, no de una métrica general de calidad publicada en la descripción. Una sola demostración no permite evaluar la precisión del modelo en todo el conjunto ni su idoneidad para uso médico. Sí deja claro qué hay que comprobar: si el sistema reconoció el rasgo visual buscado y fue capaz de descartar una opción parecida, pero incorrecta.

La historia también tiene una dimensión empresarial: según el episodio, el negocio de entrenamiento de IA de Handshake alcanzó unos ingresos brutos anualizados de 1.000 millones de dólares en aproximadamente un año. Se trata del ritmo actual declarado, no de ingresos confirmados de un ejercicio completo.

Para su propio equipo, resulta más útil empezar con unas pocas tareas reales de los usuarios. Reúna los materiales de entrada, defina las características de un resultado correcto, incorpore a un experto en la materia y evalúe las acciones junto con el entregable final. Reserve una parte de las tareas fuera del entrenamiento. Este tipo de evaluación mostrará dónde el agente ya ahorra trabajo y dónde su explicación segura todavía necesita una comprobación manual.