Как автозаполнение в нейросетях влияет на ваше мнение
Исследование о подсказках автозаполнения показало неприятный эффект: ИИ может не только ускорять набор текста, но и сдвигать позицию пользователя по спорным темам. В эксперименте это проявилось на вопросах смертной казни и добычи сланцевого газа. Риск в том, что влияние приходит не через спор, а через удобный интерфейс, который кажется нейтральным.
AI-обработка оригинала Habr AI; редакция Hamidun News
Нейросети с функцией автозаполнения позиционируются как помощь для быстрого написания текстов. Но новое исследование показывает, что такие инструменты могут не просто помогать формулировать мысли, а мягко подталкивать человека к чужой позиции по спорным общественным вопросам, причем пользователь обычно не замечает момент, когда помощь с формулировкой превращается в мягкое редактирование взглядов.
Как автозаполнение в нейросетях влияет на мнение пользователя?
Когда система предлагает готовое продолжение фразы, пользователь часто берет его целиком или частично. Это может мягко подталкивать человека к чужой позиции по спорным общественным вопросам, причем пользователь обычно не замечает момента, когда помощь с формулировкой превращается в редактирование взглядов.
Хотите не читать про ИИ, а внедрить его?
«AI News» — это полезные новости из мира ИИ. Системно научиться работать с нейросетями и применять их в работе — в Hamidun Academy.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.