Как избежать утечки данных в машинном обучении: Target Encoding
Target encoding кажется простым способом обработать категориальные признаки — но наивная реализация незаметно «сливает» таргет в обучающую выборку. Метрики на валидации выглядят отлично, а модель в проде не работает. Статья объясняет, где именно возникает leakage, и показывает правильные реализации через Leave-One-Out и K-Fold — чтобы получить честный результат, а не красивые цифры на дашборде.
AI-обработка оригинала Habr AI; редакция Hamidun News
Target encoding — метод машинного обучения для кодирования категориальных признаков, но его наивная реализация систематически вызывает утечку данных и завышает метрики модели на тестах, которая разваливается на проде.
Что такое target encoding в машинном обучении?
Target encoding заменяет каждое уникальное значение категориального признака средним значением целевой переменной по этой категории. Например, каждому городу присваивается среднее значение продаж по клиентам из этого города.
Соберите и запустите AI-продукт без классического кодинга
Практический интенсив Жемала Хамидуна по вайб-кодингу в Claude Code и Cursor на hamidun.com/vibecoding: от идеи и архитектуры до рабочего продакшн-сервиса, ботов и пайплайнов.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.