Anthropic переписала Messages API на Rust силами Claude: нагрузка на CPU упала на 40–50%

Anthropic переписала на Rust Messages API — интерфейс, через который разработчики обращаются к Claude. По словам Katelyn Lesse из команды Anthropic, рассказавшей об этом в подкасте Latent Space, среди участников проекта не было ни одного Rust-разработчика. Код писал сам Claude. Люди составили план и проверяли, совпадает ли поведение старой и новой реализаций на реальном трафике. Итог, как его пересказал в X автор Somi: нагрузка на CPU снизилась на 40–50%. Пост набрал более 182 тысяч просмотров, потому что бьёт по одной из самых устойчивых догм индустрии: «никогда не переписывай всё с нуля».

Кто что делал: модель пишет, люди принимают работу

Разделение труда здесь важнее самого языка. Claude отвечал за написание кода. Инженеры отвечали за две вещи: план переписывания и критерий приёмки. Критерием стало сравнение старой и новой версий на реальных запросах. Если оба сервиса на одном и том же трафике дают эквивалентный результат, новая реализация считается рабочей. Разбираться в идиомах Rust для этого не обязательно, достаточно уметь точно описать, что должен делать сервис, и проверять это на данных.

Это объясняет, почему «ноль Rust-разработчиков» не выглядит безумием. Раньше главным барьером для смены языка была нехватка людей, которые напишут и отревьюят код. Здесь барьер переносится с написания на верификацию. У команды есть эталон в виде работающей production-системы, и новая версия обязана вести себя с ним одинаково. Такая постановка подходит для моделей: задача чётко определена, а результат проверяется автоматически.

Что значат 40–50% CPU

Для API, который обслуживает огромное число запросов, процессорное время напрямую превращается в расходы на инфраструктуру. Если при той же нагрузке сервис потребляет вдвое меньше CPU, то либо нужно меньше серверов, либо тот же парк выдерживает больше трафика. Это наш вывод из цифры, а не заявление Anthropic: сколько денег компания сэкономила, в пересказе не сказано.

Заметно и другое. Приём «переписать горячий сервис на компилируемый язык с жёстким контролем памяти» известен давно. Раньше он стоил месяцев работы специалистов, и большинство команд от него отказывалось. Если основную часть кода пишет модель, цена эксперимента падает, а окупаемость выглядит по-другому. Вердикт Somi — «совет не делать большой рерайт мёртв» — звучит громко, но один кейс не опровергает правило. Он лишь показывает условия, при которых правило перестаёт работать.

Чего в пересказе нет

Источник здесь — короткий пост со ссылкой на подкаст, а не технический отчёт. Из него неясно несколько важных вещей:

• какую именно часть Messages API переписали: весь стек или отдельные компоненты;
• как изменились задержки и пропускная способность, а не только загрузка CPU;
• сколько времени заняла работа и сколько итераций потребовалось Claude;
• какие расхождения между старой и новой версиями находили при сравнении и как их разбирали;
• как команда будет поддерживать код на языке, которым никто в ней не владеет.

Последний пункт самый неудобный. Код, который никто из людей глубоко не читал, придётся сопровождать, ловить в нём редкие ошибки и добавлять функции. Пока Claude остаётся под рукой, это решаемо. Но долгосрочная цена такого подхода по одному кейсу не видна.

Практический вывод

Рецепт, который можно взять себе, не зависит от Rust. Сначала нужно зафиксировать поведение существующего сервиса: собрать реальные запросы и ответы, настроить сравнение двух реализаций. Затем план и приёмку остаются за людьми, а черновую работу берёт модель. Чем лучше у вас тестовая оснастка и теневой прогон трафика, тем безопаснее такая переписка. Без них модель просто быстро нагенерирует много непроверенного кода. Прежде чем повторять опыт Anthropic, стоит дождаться полной версии рассказа и посмотреть, как команда решила вопросы, которых нет в пересказе.