arXiv cs.CL→ оригинал

LSTM превзошла Random Forest и Naive Bayes в анализе тональности твитов с ROC-AUC 0,92

Новое исследование на arXiv сравнило LSTM с пятью классическими алгоритмами ML в задаче анализа тональности твитов. На датасете Kaggle рекуррентная нейросеть показала 90,98% точности при обучении, 80% на тесте и ROC-AUC 0,92 — против логистической регрессии, случайного леса, наивного байеса и градиентного бустинга. Вывод: для текста с контекстом и последовательностями LSTM стабильно выигрывает у классического ML.

AI-обработка оригинала arXiv cs.CL; редакция Hamidun News
LSTM превзошла Random Forest и Naive Bayes в анализе тональности твитов с ROC-AUC 0,92
Источник: arXiv cs.CL. Коллаж: Hamidun News.
◐ Слушать статью

Новое исследование, опубликованное на arXiv в июле 2026 года, проверило, насколько нейросеть LSTM превосходит пять классических алгоритмов машинного обучения в задаче анализа тональности публикаций в Twitter — и рекуррентная сеть победила по всем ключевым метрикам, набрав 80% точности на тестовой выборке и ROC-AUC 0,92.

Что и как сравнивали

Авторы взяли датасет твитов с Kaggle и провели стандартную NLP-предобработку: токенизацию (разбивку на слова), лемматизацию (приведение к базовой форме) и удаление стоп-слов. После этого шесть алгоритмов обучились классифицировать твиты по трём категориям — позитивные, негативные и нейтральные.

Протестированные модели:

  • Логистическая регрессия
  • Случайный лес (Random Forest)
  • Наивный байесовский классификатор (Naive Bayes)
  • Градиентный бустинг (Gradient Boosting)
  • LSTM (Long Short-Term Memory) — рекуррентная нейросеть, учитывающая порядок слов

Насколько хорошо справилась LSTM?

LSTM оказалась лучшей из всех протестированных подходов:

  • Точность на обучающей выборке — 90,98%
  • Точность на тестовой выборке — 80,00%
  • Micro-average ROC-AUC — 0,92

Значение ROC-AUC 0,92 означает, что модель верно разделяет позитивный и негативный контент примерно в 92% случаев — это высокий результат для «шумных» данных из социальных сетей, насыщенных сленгом и иронией. Разрыв между 90,98% (обучение) и 80% (тест) указывает на умеренное переобучение, типичное для нейросетей без дополнительной регуляризации.

«Результаты показывают, что LSTM превосходит обычные методы машинного

обучения в захвате контекстных и последовательных аспектов текста», — отмечают авторы работы.

Классические алгоритмы быстрее обучаются и легче интерпретируются, но обрабатывают текст как набор независимых слов — без учёта порядка и контекста. LSTM, напротив, «помнит» предыдущие слова при обработке каждого нового: именно поэтому она понимает, что «не плохо» — это не «плохо», а «совсем не понравилось» несёт сильный негатив.

Почему это важно для анализа соцсетей

Twitter (ныне X) генерирует сотни миллионов публикаций ежедневно. Автоматический анализ тональности позволяет брендам отслеживать реакцию аудитории на продукт в реальном времени, а исследователям — изучать динамику общественного мнения без ручного просмотра миллионов сообщений.

Современные коммерческие системы опираются на трансформерные модели — BERT, RoBERTa — которые значительно превосходят LSTM, но требуют серьёзных вычислительных ресурсов. LSTM остаётся практичным выбором для команд с ограниченным бюджетом: она легче, быстрее в инференсе и вполне работоспособна без мощного GPU-кластера.

Что это значит

Работа подтверждает устойчивую закономерность в NLP: для текста, где важен порядок слов и контекст, глубокое обучение стабильно выигрывает у классического ML. Воспроизвести эксперимент несложно — открытый датасет с Kaggle и стандартные библиотеки (TensorFlow, PyTorch) позволяют запустить похожий пайплайн за несколько часов.

Частые вопросы

Чем LSTM отличается от BERT в задачах анализа тональности?

LSTM обрабатывает текст последовательно — слово за словом, сохраняя предыдущий контекст в памяти. BERT — трансформерная модель, которая анализирует весь текст сразу в обоих направлениях и предобучена на гигантских корпусах. На большинстве современных бенчмарков BERT превосходит LSTM на 5–15 процентных пунктов, но требует значительно больше вычислительных ресурсов.

Что такое ROC-AUC и почему 0,92 — хороший результат?

ROC-AUC показывает, насколько хорошо модель разделяет классы: 0,5 — случайное угадывание, 1,0 — идеальная классификация. Значение 0,92 считается высоким для задачи анализа тональности в социальных сетях, где данные зашумлены сленгом, опечатками и сарказмом.

ЖХ
Hamidun News
AI‑новости без шума. Ежедневный редакторский отбор из 400+ источников. Продукт Жемала Хамидуна, Head of AI в Alpina Digital.

Хотите не читать про ИИ, а внедрить его?

«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.

Что вы думаете?
Загружаем комментарии…