Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизРазбор · На радарHabr AI→ оригинал

«ghbdtn» вместо «привет» обходится LLM в 4–7 раз дороже: 350–500 токенов против 70–90

Если набрать «ghbdtn» вместо «привет», нейросеть не сразу понимает, что это русский текст в английской раскладке, и тратит токены на расшифровку. Автор утилиты «Зябра» замерил: чистая фраза занимает 70–90 токенов, а с опечаткой при русском контексте в чате — 350–500, то есть в 4–7 раз больше. Без контекста модель однажды потратила 2298 токенов и 145 секунд и так и не расшифровала фразу. Поэтому раскладку выгоднее исправлять до отправки.

AI-обработка оригинала Habr AI; редакция Hamidun News
«ghbdtn» вместо «привет» обходится LLM в 4–7 раз дороже: 350–500 токенов против 70–90
Источник: Habr AI. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникHabr AI ↗
Главный редактор
«Умничка)»70 токенов и 5,4 с против 2356 токенов и 148 с в неверной раскладке
Одна русская реплика в истории344 токена и 23 с вместо 2298 и 145 с
«Зябра» бесплатна и локальнабез сети, журнала клавиш и буфера обмена

Каждый, кто много печатает, хоть раз отправлял «ghbdtn» вместо «привет»: пальцы были на английской раскладке, а в голове был русский. В обычном мессенджере это мелкая неловкость. С языковой моделью добавляется вопрос денег и времени: нейросеть пытается понять, что вы имели в виду, и тратит на это токены (единицы текста, за которые платят и от которых зависит скорость ответа). Автор утилиты «Зябра» (локальный переключатель раскладки, который сам стирает неверно набранное и переписывает правильно) решил посчитать, сколько именно. Итог такой: чистое сообщение стоит 70–90 токенов и 5–7 секунд, а случайная опечатка в раскладке при русском контексте в чате — 350–500 токенов и 25–30 секунд, то есть в 4–7 раз дороже.

Первый прогон: цифры, от которых становится не по себе

Эксперимент простой. Автор взял короткие фразы, которые реально мог бы случайно отправить не в той раскладке, и для каждой послал локальной модели два варианта: нормальный и «сломанный». Без системного промпта, без истории чата, одно сообщение. Модель — локальная Qwen3.8-Flash-Next на Strata, как её называет автор.

Результаты разошлись сильно:

  • «Умничка)» — 70 токенов и 5,4 секунды, а в неверной раскладке («Evybxrf)») — 2356 токенов и 148 секунд, и модель так и не расшифровала фразу;
  • «Спасибо, то что нужно!» — 84 токена и 7,5 секунды против 440 токенов и 30 секунд, расшифровала верно;
  • «Погнали» — 66 токенов и 6,2 секунды против 336 токенов и 24 секунд, тоже верно.

На «Evybxrf)» модель ушла перебирать ROT13 и шифр Цезаря, потратила почти две с половиной минуты и в итоге спросила, что имелось в виду. Выглядело как убойный аргумент в пользу утилиты: экономия в десятки раз.

Стоп: в реальном чате сообщение редко бывает первым

Автор сам заметил слабое место теста. В жизни перед опечаткой почти всегда есть разговор на русском, а в замере модель решала головоломку с нуля. Он повторил проверку на той же фразе в трёх вариантах:

  • без контекста — 2298 токенов, 145 секунд, не расшифровала;
  • с системным промптом «общаемся на русском» — 495 токенов, 32 секунды, расшифровала, хотя и с небольшой неточностью («умничк)»);
  • с одной предыдущей русской репликой в истории — 344 токена, 23 секунды, расшифровала точно.

Контекст делает ответ в 6–7 раз дешевле и быстрее. Живая реплика сработала даже лучше явной инструкции: у модели появляется за что зацепиться, и она быстрее понимает, что перед ней русский текст, набранный латиницей, а не шифр.

Честный итог и что из этого следует

Реалистичная цена одной случайной опечатки — не 2000+ токенов и две с половиной минуты, а примерно 350–500 токенов и 25–30 секунд, когда в чате уже есть русский контекст. Это всё равно в 4–7 раз дороже чистого сообщения. Если за вечер таких промахов набирается два десятка, выходит несколько тысяч лишних токенов и пара минут ожидания. Плюс риск, что модель не справится и просто переспросит.

Для тех, кто платит за API, цифры будут другими, но логика та же: токены уходят не на ваш вопрос, а на расшифровку. Практических выводов два. Первый: если вы строите чат-бота или ассистента для русскоязычных пользователей, держите в промпте или истории русскоязычный контекст, он заметно снижает цену ошибки ввода. Второй: исправлять раскладку лучше до отправки, а не рассчитывать, что модель разберётся.

Есть и ограничения. Это замеры одного человека на одной локальной модели и на нескольких фразах, а не широкий бенчмарк. Другие модели могут справляться с «кривой» раскладкой лучше или хуже, а время ответа в облачных сервисах зависит ещё и от нагрузки. Автор сам называет итог «не завышенным», а не универсальным.

Сама «Зябра» бесплатна, работает на Windows, Linux и macOS, код и бинарники лежат на github.com/DmNep/zyabra. Автор подчёркивает, что она полностью локальная: не пишет набранное на диск, не ведёт журнал нажатий, не трогает буфер обмена и не открывает сеть. В памяти хранится только текущее незавершённое слово и одна последняя замена. Для программы, которая видит каждое нажатие клавиши, это важная деталь.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: первый прогон: цифры, от которых становится не по себе?

Эксперимент простой. Автор взял короткие фразы, которые реально мог бы случайно отправить не в той раскладке, и для каждой послал локальной модели два варианта: нормальный и «сломанный». Без системного промпта, без истории чата, одно сообщение. Модель — локальная Qwen3.8-Flash-Next на Strata, как её называет автор.

Что известно по теме: стоп: в реальном чате сообщение редко бывает первым?

Автор сам заметил слабое место теста. В жизни перед опечаткой почти всегда есть разговор на русском, а в замере модель решала головоломку с нуля. Он повторил проверку на той же фразе в трёх вариантах: без контекста — 2298 токенов, 145 секунд, не расшифровала; с системным промптом «общаемся на русском» — 495 токенов, 32 секунды, расшифровала, хотя и с небольшой неточностью («умничк)»); с одной предыдущей русской репликой в истории — 344 токена, 23 секунды, расшифровала точно.

Что известно по теме: честный итог и что из этого следует?

Реалистичная цена одной случайной опечатки — не 2000+ токенов и две с половиной минуты, а примерно 350–500 токенов и 25–30 секунд, когда в чате уже есть русский контекст. Это всё равно в 4–7 раз дороже чистого сообщения. Если за вечер таких промахов набирается два десятка, выходит несколько тысяч лишних токенов и пара минут ожидания. Плюс риск, что модель не справится и просто переспросит. Для тех, кто платит за API, цифры будут другими, но логика та же: токены уходят не на ваш вопрос, а на расшифровку.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…