Десктоп остался без T9: почему так вышло и как это могут исправить LLM

Рабочие тексты мы пишем в основном на компьютере: письма, документацию, тикеты, код, комментарии к коду. Умная автокоррекция при этом осталась на телефоне. Там слово чинится прямо во время набора, а на ПК пользователя ждут красная волнистая линия и контекстное меню по правой кнопке мыши. Разрыв заметен с тех пор, как смартфоны получили сенсорные клавиатуры, то есть больше полутора десятилетий. Недавний разбор на Habr возвращает к этому вопросу: почему десктоп не научился большему и можно ли это исправить с помощью LLM. Ниже разбираем причины и то, что здесь реально меняют языковые модели. Оригинальная публикация в RSS даёт только анонс, поэтому дальнейшее опирается на общеизвестную архитектуру ввода и состояние рынка.

Почему телефон получил автокоррекцию, а ПК нет

На смартфоне клавиатура является программой. Она видит координаты каждого касания, вероятность попадания по соседним клавишам, контекст набранной фразы. Автокоррекция там нужна по необходимости: палец крупнее кнопки, и без неё писать невозможно. Разработчик клавиатуры контролирует весь слой ввода, поэтому может подставлять слова, менять предыдущие и учиться на привычках владельца.

На десктопе картина обратная. Физическая клавиатура точнее, ошибок в основном меньше, и острой потребности нет. Кроме того, текст попадает в браузеры, IDE, мессенджеры, терминалы и офисные пакеты, и у каждого свой текстовый движок. Единой точки, где можно перехватить ввод и аккуратно изменить слово, нет. Приходится работать через accessibility API или хуки на уровне системы. Это хрупко, у каждой ОС по-своему и нередко ломается в защищённых полях.

Есть и вопрос доверия. Программа, которая читает всё набранное, по определению похожа на кейлоггер. Для рабочих данных это серьёзное препятствие: юристы и службы безопасности охотно запретят такой инструмент.

Что меняют языковые модели

Классическая автокоррекция опирается на словарь и статистику n-грамм. Она хорошо исправляет опечатки в слове, но плохо понимает контекст: не отличит «ложить» от «класть» по смыслу фразы и спотыкается на профессиональном жаргоне. Языковая модель смотрит на предложение целиком и оценивает, какое слово здесь уместно. Apple уже перевела автокоррекцию в iOS на модель трансформерного типа, а в macOS появились встроенные подсказки продолжения. Значит, основные производители готовы нести это на десктоп, хотя пока делают это осторожно и в основном для ограниченного набора языков.

Главное изменение связано с размером. Модели на единицы миллиардов параметров, например класса Phi-3-mini с 3,8 млрд, уже запускаются на ноутбуке без облака. Это снимает часть проблемы приватности: текст не покидает машину. Остаются задержка и ресурсы.

Ориентиры для такого инструмента выглядят так:

• задержка подсказки: порядка 100 мс, иначе она отстаёт от набора;
• размер модели: от сотен миллионов до нескольких миллиардов параметров, в квантованном виде;
• работа офлайн, без отправки текста на сервер;
• поддержка русского с его падежами и свободным порядком слов, где слабые модели ошибаются чаще;
• настройка исключений для паролей, терминала и кода.

Что с этим делать на практике

Если вам нужна умная правка на ПК уже сейчас, есть три рабочих пути. Первый: использовать проверку орфографии и стиля в браузере и офисных пакетах. Она не заменяет T9, но закрывает часть задач. Второй: поставить локальный инструмент на базе небольшой модели и проверить его на своих текстах, обращая внимание на задержку и на то, как он ведёт себя в IDE и терминале. Третий: если вы разрабатываете такие продукты, начинайте с узких сценариев, например с правки в одном приложении или в одном поле, и только потом выходите на уровень системы.

Вне зависимости от выбора, проверяйте три вещи. Где обрабатывается текст: локально или в облаке. Какие приложения инструмент не трогает. И как он ведёт себя на русском, а не только на английском. Десктопный T9 пока остаётся нишей, но технических препятствий для него стало заметно меньше, чем несколько лет назад.