OpenClaw y 160.000 estrellas: por qué las herramientas para agentes son una trampa

Escucha: 160.000 estrellas en GitHub no caen así como así. No es solo el éxito de otro repositorio, es un grito de auxilio colectivo de la industria. El proyecto OpenClaw se ha convertido en el detonante del debate sobre lo que los blogs tecnológicos chinos llaman el «lado A y el lado B» (AB) de las herramientas para agentes.

Mientras tú y yo discutíamos qué modelo tiene la ventana de contexto más larga, el mundo se obsesionó del todo con la autonomía. Ya no queremos que una red neuronal se limite a escribir poemas: queremos que reserve billetes, arregle bugs en producción y gestione nuestras finanzas. Pero aquí empieza lo más interesante y algo inquietante.

Recordemos cómo hemos llegado hasta aquí. Primero fueron los chats a secas. Luego apareció AutoGPT, que prometía darle la vuelta al mundo pero, en la práctica, solo gastaba tokens sin fin en bucles vacíos. Ahora entran en escena las Agent Tools (herramientas de agentes): en esencia, las «manos» de los grandes modelos de lenguaje. OpenClaw propone una forma estandarizada de dar a la red neuronal acceso al mundo exterior.

El lado «A» de esta moneda brilla: la eficiencia se multiplica. Le das una tarea y el agente elige por sí mismo la API adecuada, mueve las palancas y entrega el resultado. Es el empleado de IA con el que soñaban todos los fundadores de startups de Silicon Valley y Shenzhen.

Sin embargo, la moneda tiene un lado «B» que los desarrolladores suelen preferir callar en las presentaciones a inversores. El problema no es que el agente no pueda pulsar un botón. El problema es que puede pulsarlo en el momento equivocado, en el lugar equivocado y con consecuencias equivocadas. Cuando hablamos de «uso de herramientas», nos topamos con una fragilidad fundamental. Los modelos siguen alucinando, pero ahora sus alucinaciones tienen consecuencias físicas o financieras. Si un agente decide que para optimizar tu agenda hay que borrar las reuniones «sobrantes» junto con el calendario y el buzón de correo, lo hará con una diligencia verdaderamente maquinal.

¿Por qué importa ahora? Porque hemos tocado techo en la «inteligencia» pura de los modelos. La distancia entre GPT-4 y las iteraciones siguientes ya no parece tan enorme. El crecimiento ya no va en profundidad, sino en amplitud, a través de integraciones. OpenClaw se hizo popular porque intenta poner orden en este caos de herramientas. Pero la paradoja es que cuantas más herramientas damos a un agente, mayor es la probabilidad de error. Es lo que se llama «carga cognitiva del agente». Imagina que te dan una navaja suiza con mil hojas: lo más probable es que te cortes antes de encontrar la que necesitas.

La comunidad china de desarrolladores debate ahora con intensidad si no es hora de bajar el ritmo. En lugar de atiborrar a los agentes con cientos de funciones, quizá convenga centrarse en verificar las acciones. Estamos construyendo sistemas de control complejísimos sobre la base de predicciones probabilísticas del siguiente token. Es como levantar un rascacielos sobre un pantano con la esperanza de que el hormigón fragüe antes de que el edificio empiece a inclinarse. OpenClaw es una gran herramienta, pero solo pone de relieve el problema de fondo: hemos dado «pinzas» a la IA, pero hemos olvidado la propiocepción, el sentido del propio cuerpo y de los límites de lo permitido.

¿Qué significa esto para nosotros? Lo más probable es que, en el próximo año, veamos un retroceso desde los «agentes universales» hacia microservicios muy especializados. La seguridad y la previsibilidad se convertirán en una nueva moneda que valdrá más que cualquier «estrella» de GitHub. Entramos en una era en la que la capacidad de una IA de detenerse a tiempo y pedir permiso se valorará más que la de completar la tarea a cualquier precio. La industria empieza por fin a entender que «inteligente» no significa «fiable».

Lo esencial: el revuelo en torno a OpenClaw demuestra que las herramientas son la nueva frontera, pero sin protocolos de seguridad estrictos estas «pinzas» pueden pellizcar con fuerza a sus propios creadores. ¿Estamos listos para confiar a un agente no solo un texto, sino nuestros accesos?