Автор Хабра предупредил: бездумное использование ИИ ведёт к вырождению специалистов

Автор Хабра поднял тему, к чему может привести бездумное использование ИИ: по его мнению, в погоне за прибылью держатели больших языковых моделей рискуют разрушать не только качество текстов, но и человеческую квалификацию.

Почему сгенерированный текст не заменяет экспертизу

Генеративные трансформеры, по мнению автора, ничего не изобретают — они лишь используют большие языковые модели для генерации, то есть комбинирования правдоподобных текстов. Те, кто применяет сгенерированные тексты без должного критического анализа, невольно теряют квалификацию, если она вообще была. А тот, кто никогда не был квалифицированным специалистом, впадает в эйфорию, воображая, что теперь может решать задачи, не обладая необходимыми знаниями.

«Это будет работать до тех пор, пока действительно знающие люди стоят у руля разработок.

А вот когда им на смену придут освоившие взаимодействие с ИИ, но не обладающие необходимой квалификацией для трезвой оценки результатов, полученных при помощи ИИ, — вот тогда случится беда», — предупреждает автор.

Что происходит с моделями от версии к версии

Автор отмечает, что от версии к версии в модели добавляются скрытые детерминированные механизмы — то, что часто описывают словами «модель думает», — которые должны улучшать адекватность ответов. Но вместе с этим в ответы моделей закладывается всё больше человеческого фактора, а человеческая предвзятость может накладывать отпечаток на итоговый результат. Для коммерческого продвижения продукта это, как иронично замечает автор, безусловно хорошо.

Отдельная проблема — источники данных, на которых обучаются модели: их достоверность ничем не гарантирована. С генерацией программного кода, по наблюдению автора, дело обстоит несколько лучше, но и здесь ИИ принципиально не придумывает ничего нового. Максимум, что может произойти, если модели обучать на результатах генераций, признанных наиболее удачными, — это некоторое улучшение или, наоборот, вырождение итоговых результатов.

Кто в зоне риска

Ключевая мысль автора в том, что опасность исходит не от самих больших языковых моделей, а от того, как их использует человек без должной квалификации. Пока решения в компаниях принимают люди с реальной экспертизой, способные критически оценить результат работы ИИ, эта проблема остаётся управляемой. Риск нарастает тогда, когда таких людей на руководящих позициях начинают заменять специалистами, которые умеют только взаимодействовать с ИИ, но не способны трезво оценить качество полученного результата. По сути, речь идёт о смене поколений внутри профессии: одно поколение ещё училось решать задачи руками и головой, а следующее рискует научиться только формулировать запросы к модели.

Что делать с этим риском на практике

Из рассуждений автора следует практический вывод: результат работы ИИ нужно рассматривать как черновик, а не как готовый ответ, и проверять его именно тем человеком, который способен оценить содержание по существу, а не только по форме. Это касается и текстов, и программного кода — в обоих случаях модель комбинирует то, что уже видела, а не создаёт принципиально новое знание, и ответственность за качество итогового результата остаётся на человеке, который его использует.

Что это значит

Автор призывает не путать умение пользоваться ИИ с профессиональной квалификацией: инструмент комбинирует правдоподобные тексты, но не заменяет способность критически проверить результат. Пока за штурвалом остаются знающие люди, риск управляем — но он растёт по мере того, как на смену им приходят те, кто освоил только работу с ИИ.