Маргарет Этвуд попробовала Claude и назвала проблему ИИ «мусор на входе — мусор на выходе»

Маргарет Этвуд, автор «Рассказа служанки» и «Слепого убийцы», воспользовалась ИИ-чат-ботом Claude ровно один раз — и пришла к выводу, что у искусственного интеллекта фундаментальная проблема с качеством данных.

Один запрос — неверный ответ

На литературном фестивале Babell в Порту (Португалия) Этвуд рассказала, как обратилась к Claude с вопросом о британском детективном сериале «Отец Браун». Результат её разочаровал.

«Claude дал мне неверный ответ — или солгал.

Впрочем, он не знал, что лжёт, потому что это не человек — это большая языковая модель», — сказала писательница. По её словам, модель просто «пролистала» доступные данные по верхам и выдала уверенно сформулированную, но фактически неточную информацию. Именно это, считает Этвуд, и есть главная слабость современных языковых моделей: они не знают, чего не знают, и не предупреждают об этом пользователя.

Мусор на входе — мусор на выходе

Диагноз Этвуд лаконичен: «garbage in, garbage out» — принцип, известный в программировании с 1960-х. Если обучающие данные содержат ошибки, неполные сведения или предвзятость, то и результат будет ненадёжным — сколько бы вычислительных мощностей за ним ни стояло. Проблема галлюцинаций — когда языковые модели генерируют уверенные, но неверные ответы — остаётся одной из центральных нерешённых задач всей отрасли: Все крупные модели — GPT, Claude, Gemini — регулярно ошибаются в датах, именах, фактах и цитатах Модели обучаются на текстах из интернета, где неточной и устаревшей информации значительно больше, чем кажется Чем увереннее звучит ответ, тем сложнее непосвящённому пользователю его проверить В медицине, праве, образовании и журналистике такие ошибки создают реальные риски Для борьбы с этим компании подключают внешний поиск, разрабатывают системы проверки фактов и обучают модели признавать неопределённость.

Но полного решения пока нет ни у кого.

Голос культуры против технооптимизма Этвуд — не первый крупный автор, открыто критикующий ИИ.

В 2023 году тысячи писателей подписали открытое письмо с требованием к AI-компаниям платить авторам за использование их текстов в обучении. Джордж Р.Р. Мартин, Джон Гришэм и другие подали коллективные судебные иски. Литературное сообщество в целом настроено скептично: писатели видят в ИИ угрозу своему труду и возражают против обучения моделей на их книгах без разрешения и вознаграждения. Этвуд пошла на шаг дальше — она не просто выразила солидарность с коллегами, но и лично проверила технологию. Результат оказался показательным: даже человек, умеющий критически работать с источниками, получил от ИИ неверный ответ — и сразу это распознал.

Что это значит ИИ-компании позиционируют свои продукты как инструменты

для работы с информацией — поиска, анализа, суммаризации. Но именно в этой роли они пока ненадёжны. Один неверный ответ для рядового пользователя может остаться незамеченным. Для писателя, привыкшего работать с первоисточниками, он становится приговором всей технологии.