Эфир 18.11 · Поток 318 ноября в 19:00 МСК — бесплатный практический эфир по ИИ-агентам · Живой Поток 3 стартует 23.11Эфир 18 ноября →Поток 3 (23.11)
РелизAPI / Продукт · В работуThe Decoder→ оригинал

Компании в выборке Ramp увеличили расходы на ИИ в октябре всего на 1,65%

Расходы на ИИ среди клиентов Ramp в США обновили максимум в октябре, прибавив 1,65% за месяц. При этом средняя стоимость обработки миллиона текстовых токенов в отдельной выборке упала на 21%: по одному счёту за API уже трудно судить об использовании. Разработка забирает 72% отслеживаемых расходов, а доля поддержки растёт. Для команды это повод считать стоимость выполненной задачи вместе с качеством результата.

AI-обработка оригинала The Decoder; редакция Hamidun News
Компании в выборке Ramp увеличили расходы на ИИ в октябре всего на 1,65%
Источник: The Decoder. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникThe Decoder ↗
Главный редактор
Ключевой факт #1Доля поддержки в расходах выросла с 0,8% в июне до 13,3% в октябре.
Ключевой факт #2Данные Ramp описывают её клиентов, а не весь американский рынок ИИ.
Ключевой факт #3Снижение цены токенов само по себе не доказывает окупаемость продукта.

Счёт за ИИ почти не изменился — команда перестала им пользоваться? Данные Ramp показывают, почему такой вывод может быть ошибкой. В октябре расходы на ИИ среди клиентов сервиса в США выросли на 1,65% за месяц и достигли нового максимума. Одновременно средняя стоимость обработки миллиона текстовых токенов в отдельной выборке снизилась на 21%. Для разработчика или продакта это знакомая проблема: сумма платежа больше не объясняет, сколько работы сделал продукт и насколько полезной она была.

The Decoder приводит эти цифры со ссылкой на Ramp AI Index. Практический смысл здесь — пересмотреть собственный учёт. Если вы следите только за расходами на API, рост нагрузки может пройти незамеченным. А увеличение бюджета само по себе ещё не говорит, что пользователи получают больше пользы.

Один счёт скрывает разные сценарии

Представим сервис, который помогает операторам отвечать клиентам. Это условный пример: раньше он обрабатывал тысячу обращений, теперь — заметно больше. Если обработка текста подешевела, итоговый платёж может остаться прежним. В финансовом отчёте будет спокойная строка расходов, хотя нагрузка на систему выросла.

Возможен и другой сценарий: агент стал отправлять длинные истории переписки, повторять запросы после ошибок и чаще обращаться к дорогой модели. Денег уходит больше, но число решённых обращений стоит на месте. Отличить эти ситуации без данных о выполненной работе невозможно.

Поэтому рядом с бюджетом полезно держать число задач, долю успешных ответов, задержку и частоту передачи человеку. Для поддержки понятная единица — стоимость обращения, решённого с приемлемым качеством. Для инструмента программирования придётся выбрать свою метрику: например, стоимость принятого изменения с учётом проверки и доработок.

Падение средней цены токенов в отчёте тоже требует аккуратности. Оно может отражать изменение тарифов, состава моделей и характера запросов. Из этой цифры нельзя заключить, что конкретный API стал дешевле ровно на 21% или что ваш продукт автоматически получит такую же экономию.

Поддержка получает больше бюджета

На разработку программного обеспечения пришлось 72% всех отслеживаемых расходов на ИИ. При этом доля поддержки и сопровождения клиентов выросла с 0,8% в июне до 13,3% в октябре. Это заметное изменение структуры затрат, хотя оно ещё не доказывает массовую окупаемость чатботов.

Для основателя продукта в этой области появляется конкретная гипотеза: компании готовы выделять больше денег на автоматизацию работы с обращениями. Проверять её стоит на узком процессе с измеримым результатом. Например, на ответах по статусу заказа или поиске нужного пункта в базе знаний. Затем можно сравнить качество, скорость и полную стоимость обработки с прежним процессом.

The Decoder отмечает, что подобные задачи чаще подходят для дешёвых и быстрых моделей. Практический вывод — проверить несколько вариантов на одинаковом наборе обращений. Дорогая модель может оправдать себя на сложных случаях, но выбор должен опираться на результаты проверки.

Почему это ещё не портрет всего рынка

Основа индекса — платёжные данные более 85 тысяч американских компаний. Однако клиенты Ramp чаще ориентированы на рост, лучше знакомы с технологиями и крупнее американских компаний в целом. Бесплатные инструменты и использование через личные аккаунты могут выпадать из наблюдения.

Есть и отдельная граница: показатели объёма токенов и связанных расходов получены от пользователей Ramp Token Spend Management. Их нельзя автоматически переносить на всю клиентскую базу. Приведённое в материале утверждение, что 1% компаний обеспечивает 80% выручки OpenAI и Anthropic, также следует читать в контексте наблюдений Ramp, а не как раскрытие полной выручки поставщиков.

Эти данные полезны как повод проверить собственную экономику. Начать можно с одного рабочего процесса: связать платежи с числом выполненных задач, проверить качество и выяснить, где возникают повторные запросы. Тогда следующий месячный счёт станет понятнее — даже если он снова почти не изменится.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: один счёт скрывает разные сценарии?

Представим сервис, который помогает операторам отвечать клиентам. Это условный пример: раньше он обрабатывал тысячу обращений, теперь — заметно больше. Если обработка текста подешевела, итоговый платёж может остаться прежним. В финансовом отчёте будет спокойная строка расходов, хотя нагрузка на систему выросла. Возможен и другой сценарий: агент стал отправлять длинные истории переписки, повторять запросы после ошибок и чаще обращаться к дорогой модели.

Что известно по теме: поддержка получает больше бюджета?

На разработку программного обеспечения пришлось 72% всех отслеживаемых расходов на ИИ. При этом доля поддержки и сопровождения клиентов выросла с 0,8% в июне до 13,3% в октябре. Это заметное изменение структуры затрат, хотя оно ещё не доказывает массовую окупаемость чатботов. Для основателя продукта в этой области появляется конкретная гипотеза: компании готовы выделять больше денег на автоматизацию работы с обращениями. Проверять её стоит на узком процессе с измеримым результатом.

Что известно по теме: почему это ещё не портрет всего рынка?

Основа индекса — платёжные данные более 85 тысяч американских компаний. Однако клиенты Ramp чаще ориентированы на рост, лучше знакомы с технологиями и крупнее американских компаний в целом. Бесплатные инструменты и использование через личные аккаунты могут выпадать из наблюдения. Есть и отдельная граница: показатели объёма токенов и связанных расходов получены от пользователей Ramp Token Spend Management. Их нельзя автоматически переносить на всю клиентскую базу.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Закрытый клуб практиков · Vibe Club

Внедряйте ИИ быстрее рынка вместе с инженерами и фаундерами

Внутри Vibe Club (hamidun.com/club): еженедельные живые мастермайнды и разборы архитектуры с Жемалом Хамидуном, закрытый Tech Radar, LMS и обновляемая база из 370+ боевых скиллов.

Вступить в Vibe Club →Тест-драйв Академии (72ч)
Что вы думаете?
Загружаем комментарии…