Почему текст LLM видно сразу: архитектурные маркеры в архитектуре моделей

Когда LLM интегрируют в продакшн, рано или поздно сталкиваются с одной и той же проблемой: текст модели читаемый, грамотный, но видно — его написала именно машина. За пять секунд даже неискушённый читатель скажет: это LLM, никаких сомнений. Почему так происходит? Это не баг в том или ином промпте. Это архитектурная закономерность.

Десять маркеров LLM

Есть ровно десять выразительных стилистических маркеров, которые выдают LLM-текст с научной точностью. Это не баг, не случайность — это закономерность, вытекающая прямо из статистики обучающего корпуса и особенностей пост-тренинга. Маркеры сидят в архитектуре глубоко, и на них очень сложно влиять поверхностными средствами вроде промптов.

Вот примеры таких маркеров: модели склонны к избыточной квалификации («возможно», «в некотором смысле», «стоит отметить», «можно предположить»), к излишне осторожному тону, к определённым паттернам переходов между абзацами, к ложной нейтральности (когда модель мучается объективностью и балансирует между противоречивыми позициями), к предсказуемым структурам аргументации, к повторяющимся фразам-подпорам («как мы видим», «важно понимать», «в данном контексте»). Специфика в том, что модель не выбирает эти маркеры сознательно. Она просто их усваивает из примеров во время обучения, так же как человек, читающий много романов одного автора, начинает подражать его стилю в своих письмах.

Откуда берутся маркеры Это уходит корнями в то, как на самом деле обучаются языковые модели.

Обучающий корпус — это огромное количество текстов из интернета, книг, научных статей, документов, блогов. Модель учится на примерах: видит входной текст, предсказывает следующий токен, сравнивает с истиной, обновляет веса в сторону более вероятного предсказания. Если в обучающем корпусе определённые паттерны повторяются часто, модель их выучит очень хорошо.

Например, если научные статьи часто начинаются с осторожного тона («это исследование предполагает, что»), модель научится генерировать научные тексты именно с таким тоном. Если посты на Reddit часто содержат излишние оговорки, модель это заметит и будет воспроизводить. Пост-тренинг (fine-tuning на инструкциях, RLHF — обучение с подкреплением от человека) ещё больше усиливает некоторые маркеры.

Когда модель учится на примерах «хорошего» ответа из человеческого feedback, она не просто копирует стиль примеров — она их переусваивает и начинает применять везде, даже где это неуместно.

Как это исправить

На разных уровнях можно пытаться давить на маркеры: Уровень промпта: явно просить убирать маркеры. Например: писать смелее, без квалификаций, в прямом стиле, более колоритно. Уровень sampling-параметров: изменять temperature и top-p, чтобы модель была менее предсказуема.

Меньшая temperature делает выбор более детерминированным, иногда это усиливает маркеры. Большая temperature делает текст более разнообразным, иногда маркеры слабее. * Уровень постобработки: вручную корректировать текст, переписывать скучные абзацы, использовать отдельную модель для переформулирования и очистки.

Но здесь важный момент, который часто упускают: «промпты для обхода детектора» часто не работают. Детекторы AI-текста смотрят не на маркеры явно, а на статистику текста в целом — распределение частот слов, паттерны синтаксиса, энтропию текста. И если LLM генерирует текст с определённым вероятностным распределением, то это вычисляется, независимо от лингвистических хитростей.

Реальная граница между генерацией и авторским текстом лежит не в промптах для обхода, а в понимании архитектуры и целенаправленной доработке текста вручную.

Что это означает

Если интегрируешь LLM в контент, поиск, коммуникацию или любой другой продукт — нужно понимать, что модель оставляет статистические «отпечатки пальцев», которые не скрыть по-настоящему. Можно их ослабить, но полностью убрать невозможно без серьёзной доработки. И важный вопрос: нужно ли вообще скрывать факт использования модели? Честность часто лучше, чем попытка выдать LLM-текст за авторский. Если читатель видит, что текст написала нейросеть, он может к нему иначе отнестись — но это может быть нормально и даже правильно.