Wikipedia durcit ses règles : les textes écrits par AI font l’objet d’un contrôle renforcé dans la rédaction des articles

Wikipedia, крупнейшая бесплатная энциклопедия в мире, объявила об ужесточении политики в отношении текстов, написанных с помощью искусственного интеллекта. Площадка давно сталкивается с волной ИИ-сгенерированного контента и теперь переходит к более жёстким мерам контроля. Проблема возникла не вчера.

С момента массового распространения ChatGPT и других языковых моделей добровольные редакторы Wikipedia всё чаще стали обнаруживать статьи, написанные или значительно переработанные с помощью ИИ. Такой контент нарушает сразу несколько ключевых принципов энциклопедии: требование верифицируемости источников, запрет на оригинальные исследования и правило нейтральной точки зрения. ИИ-тексты нередко содержат фактические ошибки, несуществующие ссылки и самоуверенные утверждения без подтверждающих источников — то, что в сообществе называют галлюцинациями.

Wikipedia функционирует на принципах добровольного редакторского сообщества. Несколько десятков тысяч активных участников по всему миру вносят правки, проверяют факты и следят за качеством материалов. Появление ИИ-инструментов создало перегрузку для этой системы: объём потенциально сомнительного контента резко вырос, а ресурсы сообщества для его проверки остались прежними.

Некоторые редакторы описывают ситуацию как гонку вооружений — ИИ генерирует текст быстрее, чем люди успевают его проверить. Политики Wikimedia Foundation в отношении ИИ продолжают развиваться. Различные языковые разделы Wikipedia вводят собственные правила: одни требуют явного указания на использование ИИ при написании, другие полностью запрещают публикацию ИИ-сгенерированных черновиков без значительной редакторской правки.

Английская Wikipedia — крупнейший раздел с более чем 6,8 миллиона статей — находится в авангарде этих дискуссий, хотя единого консенсуса ещё не достигнуто. Фонд пока воздерживается от жёсткого централизованного запрета, предоставляя сообществам самим вырабатывать стандарты. Критики ужесточения правил указывают на то, что ИИ может быть полезным инструментом для начального структурирования статей или перевода материалов на малораспространённые языки.

Сторонники более строгого контроля настаивают: главная ценность Wikipedia — достоверность, а любой компромисс в этом вопросе подрывает доверие аудитории, насчитывающей более 1,7 миллиарда уникальных пользователей в месяц. Схожие проблемы испытывают и другие крупные платформы. Stack Overflow временно запрещал ИИ-ответы, академические журналы вводили ограничения на ChatGPT в научных работах, новостные агентства разрабатывали редакционные политики в отношении автоматически сгенерированного контента.

Wikipedia в этом смысле не одинока — она лишь один из многих ключевых узлов интернета, пытающихся адаптироваться к новой реальности. Ситуация важна ещё по одной причине: Wikipedia является одним из главных источников данных для обучения самих языковых моделей. Если её качество деградирует из-за наводнения ИИ-контентом, пострадают и следующие поколения ИИ-систем.

Исследователи уже предупреждают об эффекте схлопывания модели — когда ИИ обучается на ИИ-сгенерированных текстах, качество вывода постепенно ухудшается. Борьба Wikipedia с ИИ-контентом — это микрокосм более широкой проблемы доверия к информации в эпоху генеративного ИИ. Как сохранить открытую, редактируемую всеми платформу достоверной, когда барьер для создания убедительно звучащего, но потенциально ошибочного текста практически исчез?

Ответа, который устроил бы всех, пока нет — и Wikipedia ещё долго будет нащупывать его методом проб и ошибок.