Habr показал, как говорить с ИИ по СМС, когда мобильный интернет лёг

Habr опубликовал заметку о том, как общаться с языковой моделью через СМС, когда мобильный интернет недоступен. Исходная посылка автора простая: в ряде регионов связь работает нестабильно, и смартфон временно превращается в телефон, где остаются только звонки и сообщения. Главная цифра здесь не про модель, а про канал. Одно СМС вмещает 160 символов латиницей или 70 символов кириллицей. Из такого узкого горлышка и приходится вытягивать ответ ИИ.

Важная оговорка: в доступной части материала нет технических подробностей. Остальное спрятано за кат, поэтому ниже разобрана общая логика подобных решений, а не конкретная реализация автора.

Как устроена схема

Почти любой вариант «ИИ по СМС» собирается из одних и тех же блоков. Телефон отправляет сообщение на номер, подключённый к СМС-шлюзу. Шлюзом может быть GSM-модем с SIM-картой или API агрегатора рассылок. Шлюз передаёт текст на сервер, тот обращается к API языковой модели. Ответ сжимается и уходит обратно тем же каналом.

Главное достоинство в том, что на стороне пользователя ничего не нужно ставить. Работает любой кнопочный телефон. Сервер находится там, где интернет есть, а у человека остаётся только сотовая сеть.

Где канал ломает привычный сценарий

Чат-боты привыкли отвечать длинно. СМС этого не прощает. Кириллица кодируется в UCS-2, поэтому одиночное сообщение вмещает 70 символов, а в составном каждая часть несёт уже 67. Латиница в кодировке GSM-7 даёт 160 и 153 символа соответственно.

Ключевые параметры канала:

• одиночное СМС: 160 символов (GSM-7) или 70 (UCS-2, кириллица);
• часть составного сообщения: 153 или 67 символов;
• ответ в 1000 знаков по-русски занимает около 15 сообщений, на латинице примерно 7;
• доставка не гарантирует порядок и время, части могут приходить вразнобой;
• каждое сообщение тарифицируется оператором отдельно.

Отсюда вытекают и инженерные решения. Системный промпт должен требовать ответов в одну-две фразы. Сервер обязан резать вывод модели по лимиту и нумеровать части. Иногда разумно отвечать транслитом или сокращённо, чтобы уложиться в более ёмкую кодировку, хотя читать такой текст труднее.

Риски и ограничения

СМС не шифруется end-to-end. Всё, что вы спросили, видят оператор и владелец шлюза. Для бытовых вопросов это терпимо, для медицинских или финансовых нет. Есть и вопрос стоимости: если сервис отвечает за ваш счёт, пятнадцать сообщений на один ответ быстро превращаются в заметную сумму. Если за счёт владельца бота, нужна защита от злоупотреблений, то есть лимиты на номер и фильтры спама.

Плюс зависимость от инфраструктуры. Если связь пропадает целиком, не помогает и СМС. Если же ограничен только мобильный интернет, а голос и сообщения проходят, схема работает.

Что делать, если хотите повторить

Начинайте с минимума. Возьмите шлюз с простым webhook или GSM-модем и небольшой серверный скрипт. Жёстко ограничьте длину ответа в промпте и дополнительно обрезайте его программно. Заведите белый список номеров и суточный лимит сообщений. Сразу решите, на кого ложатся расходы. Не отправляйте через такой канал чувствительные данные. Для сложных запросов лучше научить бота присылать краткий ответ и предлагать продолжение командой вроде «ещё», а не слать сразу десять сообщений.

Идея скромная, но рабочая. Она напоминает, что доступ к ИИ упирается не в качество модели, а в канал, по которому ответ доходит до человека.