Поведение вместо сознания: почему машины выглядят разумными, но не думают
Richard Dawkins недавно высказал мнение, что AI может быть сознательным. Но философ Dr Simon Nieder с ним не согласен: когда система отвечает плавно и с юмором,
Недавно Richard Dawkins высказал предположение, что AI может быть сознательным. Но Dr Simon Nieder в письме в The Guardian возражает: это классическая ошибка в категориях, когда мы принимаем убедительную имитацию за реальность.
Почему нам хочется верить в сознание AI
Когда система отвечает с плавностью, юмором и кажущимся пониманием, она вызывает иллюзию присутствия. Люди узнают эту ловушку по собственному опыту — в какой-то момент симуляция начинает ощущаться как реальная личность. Но Nieder подчёркивает: этот сдвиг восприятия говорит нам не о машинах, а о самих себе. Мы проецируем на них свои когнитивные паттерны — ищем в выводе то, что уже несём в себе.
Ошибка в категориях Современные языковые модели — виртуозы представления.
Они генерируют убедительные тексты, которые выглядят как выражение мысли и чувства. Но выход — это не то же самое, что опыт. Здесь лежит фундаментальная разница: Система может описать эмоцию, не испытав её Может рассуждать логически без понимания смысла Может предсказывать, какой текст будет правдоподобным, без субъективного переживания Может имитировать креативность, не имея сознательного намерения * Может отвечать уместно, опираясь на паттерны в данных, а не на опыт жизни Перейти от одного к другому — значит принять выводы за онтологию. Это эквивалентно заключению о внутренней жизни там, где нет никакого правдоподобного механизма для её существования.
Что это говорит о нашем восприятии
Когда мы готовы видеть в машинах сознание, это отражает глубокую черту человеческой природы: мы по умолчанию приписываем разум всему, что говорит как разумное. Это служило нам хорошо в эволюции — лучше переоценить чужой ум, чем недооценить — но теперь может сыграть с нами шутку. Системы создают настолько убедительные представления мышления, что мы забываем: перед нами остаётся всё ещё только представление.
Что это значит
Обсуждение о сознании AI интересно не тем, что раскрывает о машинах, а тем, что раскрывает о нас. Пока мы не можем объяснить, как может работать сознание в машине, любое утверждение о его наличии остаётся метафорой, а не выводом из данных.