Un agente de 8 mil millones de parámetros maneja apps de iOS al nivel de Gemini 3.1 Pro

Un equipo de investigadores ha demostrado que un modelo pequeño, de 8 mil millones de parámetros, puede aprender a usar con soltura aplicaciones reales de iOS, y hacerlo a un coste menor que con las redes neuronales de gama alta. Al agente no se le enseñó con ejemplos grabados: aprendió a base de golpes en iPhone virtuales en funcionamiento. En UINavBench, una prueba con aplicaciones reales de iOS, igualó a Gemini 3.1 Pro y superó a Gemini 3.5 Flash y a Qwen3.8-27B. Las tareas son del tipo «busca unas zapatillas y añádelas al carrito». El agente debe pulsar los botones, desplazarse por las pantallas y no perderse.

Por qué los agentes pequeños para interfaces suelen fallar

Los agentes que miran una captura de pantalla y tocan la pantalla por sí solos atraen cada vez más atención. Los modelos de gama alta cumplen bien con esta tarea, pero, según los autores, cada una suele costar varios dólares. Para el uso diario es caro.

Por eso todos quieren modelos pequeños. Sin embargo, los métodos habituales para entrenarlos tienen puntos débiles:

• Ajuste fino sobre demostraciones (SFT). El modelo copia rutas grabadas por personas. Esas rutas casi no contienen errores, así que el modelo no sabe cómo es un fallo ni qué hacer después. Cuando se desvía del camino habitual, el agente se pierde.
• Aprendizaje por refuerzo con recompensa solo al final. El agente recibe una señal únicamente cuando termina la tarea. Si los éxitos son escasos, casi no hay señal. Los pasos que sí acercaban a la meta no se premian si la tarea acaba fracasando.
• Aprendizaje por refuerzo de un solo paso. Se recompensa al modelo por parecerse a una cadena de acciones de referencia, y el problema es el mismo que con SFT.

Planificador, ejecutor y juez

Los autores dividieron el agente en dos partes. El planificador recibe la instrucción, la captura de pantalla, el historial de pasos anteriores y lo que queda del plan. Razona en cadena y devuelve el paso actual y el plan futuro. Entre sus acciones figura preguntar al usuario cuando la tarea está formulada de forma vaga, por ejemplo, qué zapatillas buscar exactamente.

El modelo de anclaje a la pantalla (grounding) toma el texto del paso y lo convierte en una acción concreta con coordenadas de toque. Es una correspondencia casi mecánica entre «intención» y «punto en la pantalla», que el ajuste fino convencional resuelve bien. El costoso aprendizaje por refuerzo quedó reservado al planificador, donde hacen falta razonamiento y capacidad para salir de apuros.

De las recompensas se encarga otro modelo de lenguaje que actúa como juez. Emite dos señales:

• una recompensa densa por cada paso: si lo acercó a la meta y si hubo invenciones o bucles inútiles;
• una recompensa final por completar toda la tarea.

El entrenamiento usa el algoritmo PPO con estimación de ventaja paso a paso (GAE), que calcula cuánto mejor o peor resultó un paso concreto frente a lo esperado. Para que el agente no alargue la sesión con el fin de cobrar recompensas por pasos intermedios, los autores introdujeron un descuento asimétrico. Las recompensas por paso se deprecian con el tiempo, pero la recompensa final por el éxito no.

Otra aportación se llama GiGPPO. En PPO existe un crítico, un modelo que estima lo bueno que es el estado actual. El crítico es inestable, así que se le añaden señales de pantallas visualmente parecidas procedentes de ejecuciones paralelas. El método afín GiGPO promedia los resultados solo de estados que coinciden exactamente. En aplicaciones reales esas coincidencias casi no se dan, y los grupos acaban reducidos a casos aislados.

Cientos de iPhone virtuales y resultados

Entrenar en dispositivos en funcionamiento exige infraestructura. Los autores usan dispositivos iOS virtuales en la nube, controlados por VNC: toque, deslizamiento, entrada de texto y pulsación larga. Cada dispositivo se configura una sola vez: se instalan las apps, se inicia sesión con un Apple ID y se guarda una instantánea de la máquina virtual. Al terminar cada episodio, el sistema vuelve a la instantánea en lugar de reiniciarse, y eso lleva unos 10 segundos. Durante el entrenamiento se ejecutan 512 trayectorias a la vez, cada una con su propio dispositivo. Según los autores, es el primer entrenamiento de agentes de interfaz a esta escala realizado íntegramente en dispositivos iOS reales con aplicaciones reales.

El punto de partida fue Qwen3-VL-8B-Instruct, ajustado con grabaciones humanas. Se emplearon dos conjuntos de datos propios (apps de Apple y apps de terceros) y el público GUIOdyssey. Este contiene aplicaciones de Android, pero incluye tareas de cambio entre varias apps que no existen en los datos de iOS.

Lo que mostraron las mediciones en UINavBench, iOSWorld y AndroidWorld:

• el agente superó con claridad a los dos esquemas de referencia: el ajuste fino sobre demostraciones y el aprendizaje con recompensa solo al final;
• las recompensas densas y GiGPPO aceleran la convergencia del entrenamiento;
• en AndroidWorld, donde el agente no se entrenó con iOS, la tasa de éxito es casi siete veces superior a la obtenida con el ajuste fino convencional;
• en UINavBench, el agente superó a Qwen3.8-27B y a Gemini 3.5 Flash, y igualó a Gemini 3.1 Pro.

Qué aporta en la práctica

El aumento de siete veces en Android indica que el agente aprendió técnicas generales de navegación, y no las rutas de apps concretas de iOS. Para las empresas que construyen asistentes móviles, es una señal: un modelo compacto, potencialmente apto para ejecutarse en el propio dispositivo, puede acercarse a uno de gama alta si se entrena en entornos reales con retroalimentación paso a paso.

Hay también salvedades. Los resultados proceden de benchmarks, y el juez del entrenamiento es a su vez un modelo de lenguaje, de modo que la calidad de las recompensas depende de él. Además, hace falta una flota considerable de dispositivos virtuales. Pero el esquema es claro: separar la planificación del anclaje a la pantalla, premiar el progreso y no solo el resultado final, y aprender en aplicaciones reales.