Hugging Face Blog→ оригинал

Нейросеть EMO научилась сама находить специализацию

Исследователи Allen AI открыли интересный эффект: когда обучают большую смесь экспертов на разных документах, каждый эксперт сам выбирает свою специализацию — один становится медицинским, другой политическим, третий кинематографическим. Никто не говорил им, что делать. При этом модель остаётся эффективной: на анализ каждого документа включается только 12,5% экспертов, и качество почти не падает.

AI-обработка оригинала Hugging Face Blog; редакция Hamidun News
Нейросеть EMO научилась сама находить специализацию
Источник: Hugging Face Blog. Коллаж: Hamidun News.
◐ Слушать статью

Нейросеть EMO (Emergent Modularity) от Allen AI показала неожиданное поведение: при обучении на смеси документов из разных областей каждый эксперт сам специализировался на одной из них, не требуя явной разметки данных.

Как модель EMO сама нашла специализацию без разметки?

Модель обучалась на документах из разных областей (медицина, политика, кино, новости) — и каждый эксперт автоматически выбрал одну из них, опираясь только на содержание текстов.

ЖХ
Hamidun News
AI‑новости без шума. Ежедневный редакторский отбор из 400+ источников. Продукт Жемала Хамидуна, Head of AI в Alpina Digital.

Хотите не читать про ИИ, а внедрить его?

«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.

Что вы думаете?
Загружаем комментарии…