Почему разные нейросети генерируют одно имя: механизмы ИИ
Программист Дэниел Мэй заметил: ИИ-боты от разных компаний регулярно включают в генерируемые рассказы персонажа по имени Элиас Торн. Исследование объяснило феномен — Торн является артефактом механизмов безопасности, встроенных при обучении нейросетей. Чтобы избегать реальных имён, модели вырабатывают шаблонных «безопасных» персонажей, и Торн стал таким placeholder-героем сразу у десятков систем.
AI-обработка оригинала 3DNews AI; редакция Hamidun News
Исследование объясняет, почему разные ИИ-системы и нейросети для генерации текста придумывают одно и то же вымышленное имя — Элиас Торн.
Почему разные нейросети придумывают одно и то же имя?
По выводам опубликованного отчёта — из-за механизмов безопасности: моделям запрещено упоминать имена реальных людей в вымышленных контекстах, поэтому нужен набор «безопасных» имён. Элиас Торн стал таким универсальным placeholder-персонажем: имя нейтрально, не совпадает с публичными фигурами и звучит достаточно «литературно».
Почему нейросети придумывают одинаковые имена?
Потому что механизмы безопасности запрещают упоминать реальных людей в вымышленных контекстах, поэтому нейросети используют набор 'безопасных' имён в качестве placeholder'ов.
Хотите не читать про ИИ, а внедрить его?
«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.