Нейросеть EMO научилась сама находить специализацию
Исследователи Allen AI открыли интересный эффект: когда обучают большую смесь экспертов на разных документах, каждый эксперт сам выбирает свою специализацию — один становится медицинским, другой политическим, третий кинематографическим. Никто не говорил им, что делать. При этом модель остаётся эффективной: на анализ каждого документа включается только 12,5% экспертов, и качество почти не падает.
AI-обработка оригинала Hugging Face Blog; редакция Hamidun News
Нейросеть EMO (Emergent Modularity) от Allen AI показала неожиданное поведение: при обучении на смеси документов из разных областей каждый эксперт сам специализировался на одной из них, не требуя явной разметки данных.
Как модель EMO сама нашла специализацию без разметки?
Модель обучалась на документах из разных областей (медицина, политика, кино, новости) — и каждый эксперт автоматически выбрал одну из них, опираясь только на содержание текстов.
Хотите не читать про ИИ, а внедрить его?
«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.