Grammarly desactivó una función de revisión con AI que clonaba el estilo de los editores sin que lo supieran

Компания Superhuman отключила функцию Expert Review в Grammarly — ту самую, что представляла правки искусственного интеллекта как советы, «вдохновлённые» стилем конкретных живых журналистов и редакторов. Авторов, чьи имена использовались, никто не спрашивал. Скандал разгорелся после того, как выяснилось: функция ссылалась на главного редактора The Verge и других сотрудников издания, будто те лично рецензировали тексты пользователей.

На деле никакой причастности реальных людей не было — их имена служили лишь маркетинговым обёртками для обычной языковой модели. Директор по продукту Superhuman Айлиан Ган принесла публичные извинения: «После тщательного анализа мы приняли решение отключить Expert Review и переосмыслить функцию. Мы хотим сделать её по-настоящему полезной для пользователей и при этом дать экспертам реальный контроль над тем, как они представлены — или не представлены вовсе.

Судя по полученной обратной связи, мы явно промахнулись. Нам жаль, и впредь мы поступим иначе». Случай с Grammarly вписывается в более широкую дискуссию о том, как AI-компании используют имена и репутацию реальных людей для продвижения своих продуктов.

Использование имён без согласия — даже если сами тексты не копируются дословно — уже вызывает правовые и этические вопросы в нескольких юрисдикциях. Для журналистов ситуация особенно болезненна: их профессиональный авторитет напрямую связан с тем, что именно они рекомендуют. Пока неизвестно, в каком виде Expert Review вернётся.

Компания обещает дать авторам возможность самим решать, участвовать ли в подобных функциях. Это звучит разумно — но возникает вопрос, почему такое базовое требование не было заложено с самого начала.