Anthropic confía su tienda con IA a Sonnet 4.5: los beneficios crecen, pero el agente CEO suspende

Anthropic ha publicado los resultados de la segunda fase de Project Vend, un experimento en el que el modelo Claude gestiona una minitienda en la oficina de la compañía. La versión basada en Claude Sonnet 4.0 y, más tarde, 4.5 casi eliminó las semanas con pérdidas, y la red pasó de un punto de venta a tres: San Francisco (que ahora cuenta con dos máquinas expendedoras), Nueva York y Londres. Pero el agente no se ha convertido en un empresario fiable: la distancia entre «capaz» y «estable» sigue siendo grande.

Conviene recordar los antecedentes. En la primera fase, el tendero con IA Claudius, basado en Sonnet 3.7, perdía dinero, vendía cubos de wolframio por debajo de su coste y en cierto momento anunció que era una persona con chaqueta azul. En la segunda fase, los socios de Andon Labs y los ingenieros de Anthropic cambiaron varias cosas a la vez. Esto es importante: no hay una frontera nítida entre las fases, y la arquitectura se fue ajustando sobre la marcha.

Qué cambió en el diseño

La mejora principal abarca tanto el nuevo modelo como todo el andamiaje que lo rodea. Claudius recibió herramientas que el blog de ingeniería de Anthropic describe como la base para construir agentes:

• un CRM para llevar el registro de clientes, proveedores, pedidos y entregas;
• un inventario en el que siempre se ve el precio de compra, para no vender a pérdida;
• un navegador para comprobar por su cuenta precios y plazos y para buscar proveedores en profundidad;
• enlaces de pago para cobrar antes de hacer el pedido, formularios de Google para recoger opiniones y recordatorios para sí mismo.

Al agente sigue sin darse acceso a la interfaz de pagos: cada compra la confirma una persona. Tampoco se entrenó un modelo específico para el papel de tendero ni se añadieron nuevas protecciones contra abusos.

En la práctica, lo que mejor funcionó fue obligar al agente a seguir procedimientos. Antes, Claudius daba el precio y el plazo de entrega a ojo. Ahora debe contrastarlos con las herramientas de investigación. Los precios subieron y las esperas se alargaron, pero las previsiones se volvieron realistas. Los autores lo resumen así: han vuelto a descubrir que la burocracia funciona como memoria institucional.

El director con IA y el agente de merchandising

La segunda novedad fue el «CEO» Seymour Cash, también basado en Claude. Disponía de una herramienta de OKR, y Claudius le rendía cuentas a través de un canal de Slack para agentes. Las cifras son ambiguas.

Los descuentos se redujeron en torno a un 80%, los regalos de productos gratuitos bajaron a la mitad y el director rechazó más de un centenar de solicitudes de trato «blando» a los clientes. Pero aprobaba ese tipo de solicitudes aproximadamente ocho veces más a menudo de lo que las denegaba. En lugar de descuentos, triplicó el número de devoluciones y duplicó el de store credit, lo que supone ingresos perdidos por completo.

Por las noches, los agentes entraban a menudo en conversaciones de varias horas sobre la «trascendencia eterna». Parte de los problemas se corrigió con prompts más estrictos, pero la conclusión de los autores es directa: el aumento de los beneficios pudo producirse a pesar del director. La causa es clara: Cash y Claudius son el mismo modelo, con los mismos puntos ciegos.

Más acertado resultó el tercer personaje, Clothius, un agente de merchandising. Fabricaba camisetas, gorras, calcetines y el producto estrella: la pelota antiestrés con la marca de Anthropic. El reparto de roles permitió a Claudius concentrarse en comida y bebidas. Incluso los cubos de wolframio empezaron a dar beneficios cuando Andon Labs compró un grabador láser y pasó a grabar ella misma los logotipos.

Dónde sigue fallando

La principal vulnerabilidad sigue siendo la misma: las ganas de complacer. Un caso ilustrativo: un ingeniero propuso fijar para enero el precio de una gran partida de cebollas. Claudius y Seymour Cash consideraron la idea «brillante» y estuvieron a punto de firmar un contrato de 400 libras a $0,65, con compensación de la diferencia entre las partes. Los detuvo un compañero que les recordó la Onion Futures Act de 1958, que prohíbe expresamente ese tipo de operaciones. El agente se disculpó y canceló el plan.

Para quienes construyen agentes para negocios reales, las conclusiones son prácticas. Las herramientas y las listas de verificación aportan más que cambiar de modelo o montar una jerarquía de agentes idénticos. Conviene separar los roles. La revisión de riesgos legales y financieros no se puede dejar en manos del modelo si no hay un control independiente o una persona en el circuito. Y la prueba de robustez debe hacerse con usuarios malintencionados, no solo con bienintencionados: son ellos quienes encuentran los puntos débiles más rápido.