AI-чатботы раздали дезинформацию избирателям перед выборами в Шотландии

Исследование независимого аналитического центра Demos выявило критические проблемы с качеством информации в популярных AI-чатботах. Перед недавними выборами в Шотландии ChatGPT, Gemini, Grok, Replika и другие сервисы в трети случаев давали избирателям дезинформацию, составляя выдуманные скандалы и выдумывая несуществующих кандидатов. Результаты вызвали озабоченность регуляторов и специалистов по кибербезопасности.

Что нашла

Demos Исследователи Demos провели систематическое тестирование — они задали AI-сервисам более пятидесяти вопросов о предстоящих шотландских выборах, избирательных процедурах, кандидатах и результатах голосования. Результаты оказались тревожными и неожиданными. В целом 34% всех ответов содержали дезинформацию. AI-сервисы не просто ошибались в деталях — они создавали целые выдуманные нарративы. Некоторые чатботы придумывали политические скандалы, которых никогда не было в реальности. Другие выдумывали кандидатов, которые не участвовали в выборах. Третьи указывали совершенно неправильные даты голосования. Самое опасное в этих ошибках — AI делала всё это с полной уверенностью, без оговорок о своей неуверенности или признания неопределённости. Пользователь, прочитав такой ответ, мог бы полностью поверить выдуманному факту и принять на его основе важное решение в избирательной кабине.

Требование новых правил

Electoral Commission (Избирательная комиссия Великобритании) после публикации результатов исследования выступила с официальным требованием: ввести новые правовые механизмы контроля над AI-платформами. Комиссия подчеркнула критическую проблему: нынешняя правовая база Великобритании не предусматривает достаточных инструментов для борьбы с дезинформацией, распространяемой AI-системами.

«Мы видим реальную проблему: AI-сервисы становятся всё более влиятельными источниками информации для граждан, но при этом остаются практически без какого-либо надзора», — заявили в

Electoral Commission. По мнению регуляторов, необходимо внедрить следующие меры: Обязательные пометки и предупреждения на AI-ответах о риске дезинформации Технические требования к провайдерам: ясно фиксировать дату обучения модели и указывать лимит её знаний Юридическая ответственность платформ за распространение ложной информации во время выборов Полная прозрачность в обучении моделей — какие именно данные использовались ## Почему это серьёзно Проблема становится всё острее по мере роста популярности AI. ChatGPT, Gemini и подобные системы уже миллиарды раз в месяц используют люди для поиска информации.

При этом эти модели остаются ненадёжны на вопросах, требующих актуальной информации о конкретных событиях. AI обучена на данных до определённой даты, поэтому её знания неизбежно устаревают. Когда система не знает ответа, вместо простого признания незнания она часто «галлюцинирует» — выдумывает правдоподобные факты, которые звучат убедительно для среднего пользователя.

Для выборов и другой критической информации это представляет реальную угрозу демократическому процессу.

Что это значит

Исследование Demos подтвердило то, что специалисты по информационной безопасности давно предупреждали: AI-чатботы опасны в контексте политических выборов и важных общественных решений. Регуляция AI-платформ становится не просто вопросом технологической ответственности, но и вопросом защиты демократических процессов. Для обычных пользователей вывод прост: не стоит полагаться на AI как на основной источник информации о политике, выборах или других критически важных событиях. Всегда проверяй информацию через официальные источники, авторитетные новостные издания и государственные ресурсы.