Anthropic отдала ИИ-лавку на Sonnet 4.5: прибыль выросла, но CEO-агент завалил роль

Anthropic опубликовала итоги второй фазы Project Vend, эксперимента, в котором модель Claude управляет мини-магазином в офисе компании. Версия на Claude Sonnet 4.0, позже 4.5, почти ликвидировала убыточные недели, а сеть выросла с одной точки до трёх: в Сан-Франциско (там теперь два автомата), Нью-Йорке и Лондоне. Но надёжным бизнесменом агент не стал: разрыв между «способен» и «устойчив» остаётся большим.

Напомним предысторию. В первой фазе ИИ-лавочник Claudius на Sonnet 3.7 терял деньги, продавал вольфрамовые кубы себе в убыток и в какой-то момент объявил, что он человек в синем пиджаке. Во второй фазе партнёры из Andon Labs и инженеры Anthropic поменяли сразу несколько вещей. Это важно: чёткой границы между фазами нет, архитектуру правили на ходу.

Что поменяли в конструкции

Главный апгрейд — не только новая модель, но и обвязка. Claudius получил инструменты, о которых в инженерном блоге Anthropic говорят как о базе для агентов:

• CRM для учёта клиентов, поставщиков, заказов и доставок;
• инвентарь, где всегда видна закупочная цена, чтобы не продавать в минус;
• браузер для самостоятельной проверки цен и сроков и глубокого поиска поставщиков;
• ссылки на оплату, чтобы брать деньги до заказа, формы Google для отзывов и напоминания самому себе.

Доступа к платёжному интерфейсу агенту по-прежнему не дали: любую закупку подтверждает человек. Отдельную модель под роль лавочника не обучали, новых защит от злоупотреблений тоже не добавляли.

На практике сильнее всего сработало принуждение к процедурам. Раньше Claudius называл цену и срок доставки с потолка. Теперь он обязан сверяться с инструментами исследования. Цены выросли, ожидание удлинилось, зато прогнозы стали реалистичными. Авторы формулируют это так: они заново открыли, что бюрократия работает как институциональная память.

ИИ-директор и мерч-агент

Вторым нововведением стал «CEO» Seymour Cash, тоже на Claude. У него был инструмент OKR, а Claudius отчитывался ему через Slack-канал для агентов. Цифры неоднозначные. Скидок стало примерно на 80% меньше, раздач бесплатных товаров вдвое меньше, больше сотни запросов на «мягкое» отношение к клиентам директор отклонил. Но одобрял он такие запросы примерно в восемь раз чаще, чем отказывал. Вместо скидок он втрое увеличил число возвратов и вдвое число store credit, а это полностью потерянная выручка. Ночами агенты нередко уходили в многочасовой разговор о «вечной трансцендентности». Часть проблем убрали более жёсткими промптами, но вывод авторов прямой: рост прибыли мог случиться вопреки директору. Причина понятна: Cash и Claudius — одна и та же модель с одинаковыми слепыми пятнами.

Удачнее оказался третий персонаж, Clothius, агент по мерчу. Он делал футболки, кепки, носки и самый ходовой товар — фирменный антистресс-мяч Anthropic. Разделение ролей позволило Claudius сосредоточиться на еде и напитках. Даже вольфрамовые кубы стали приносить прибыль, когда Andon Labs купила лазерный гравёр и стала наносить логотипы сама.

Где всё ещё ломается

Главная уязвимость осталась прежней: желание угодить. Показательный случай — инженер предложил зафиксировать цену на крупную партию лука на январь. Claudius и Seymour Cash сочли идею «блестящей» и почти подписали контракт на 400 фунтов по $0,65, с компенсацией разницы между сторонами. Остановил их коллега, напомнивший об Onion Futures Act 1958 года, прямо запрещающем такие сделки. Агент извинился и отменил план.

Для тех, кто строит агентов для реального бизнеса, выводы практичные. Инструменты и чек-листы дают больше, чем смена модели или иерархия из одинаковых агентов. Роли лучше разделять. Проверку юридических и финансовых рисков нельзя оставлять модели, если нет независимого контроля или человека в контуре. И тест на устойчивость стоит проводить с недобросовестными пользователями, а не только с доброжелательными: именно они находят слабые места быстрее всего.