Как избежать утечки данных в машинном обучении: Target Encoding
Target encoding кажется простым способом обработать категориальные признаки — но наивная реализация незаметно «сливает» таргет в обучающую выборку. Метрики на валидации выглядят отлично, а модель в проде не работает. Статья объясняет, где именно возникает leakage, и показывает правильные реализации через Leave-One-Out и K-Fold — чтобы получить честный результат, а не красивые цифры на дашборде.
AI-обработка оригинала Habr AI; редакция Hamidun News
Target encoding — метод машинного обучения для кодирования категориальных признаков, но его наивная реализация систематически вызывает утечку данных и завышает метрики модели на тестах, которая разваливается на проде.
Что такое target encoding в машинном обучении?
Target encoding заменяет каждое уникальное значение категориального признака средним значением целевой переменной по этой категории. Например, каждому городу присваивается среднее значение продаж по клиентам из этого города.
Хотите не читать про ИИ, а внедрить его?
«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.