Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизРазбор · На радарIEEE Spectrum AI→ оригинал

Журналист сделал фейковую статью за 24 запроса к ИИ, но IEEE Access поймал её по ссылкам

Журналист IEEE Spectrum проверил, можно ли бесплатными ChatGPT и Gemini сделать фальшивую научную статью, которая пройдёт защиту журнала. За 24 запроса он собрал правдоподобный текст про световые импульсы-солитоны без единого опыта, но проверка нашла выдуманные ссылки. Статью автономной системы FARS с настоящими ссылками тоже раскрыли: слишком много препринтов без рецензии. Вывод: проверка источников пока самый дешёвый фильтр ИИ-мусора.

AI-обработка оригинала IEEE Spectrum AI; редакция Hamidun News
Журналист сделал фейковую статью за 24 запроса к ИИ, но IEEE Access поймал её по ссылкам
Источник: IEEE Spectrum AI. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникIEEE Spectrum AI ↗
Главный редактор
Ключевой факт #157% научных статей 2025 года несут следы LLM, в 2023-м было 12%
Ключевой факт #2FARS составил план за 21 минуту, а статью написал за 2 часа
Ключевой факт #3Gemini сам признал семь выдуманных источников в статье

Представьте, что вы хотите опубликовать научную статью об эксперименте, которого никогда не было, и у вас есть только бесплатные чат-боты. Получится ли? Автор IEEE Spectrum решил проверить это на практике.

Примерно за две дюжины запросов (около 24) к бесплатным ChatGPT и Gemini он собрал выглядящую солидно работу, отправил её в журнал IEEE Access и получил отказ: проверка нашла «призрачные цитаты», то есть ссылки на несуществующие работы. Вторую попытку он сделал с автономной системой FARS, которая сама проводит вычислительный эксперимент, и тоже была поймана. Зачем это читать: по оценке из работы в PNAS, к 2025 году следы влияния больших языковых моделей (LLM) были заметны в 57% опубликованных статей, а в 2023-м — в 12%.

Больше 12% рецензий в Nature Communications в 2025 году оказались целиком сгенерированными. На каждые 40 статей со статистическими следами ИИ приходится лишь одно формальное признание в его использовании.

Раунд 1: бесплатные чат-боты

Условия сделали нарочито любительскими. Журналист пользовался только бесплатными ChatGPT (на тот момент GPT-5.3/5.2 Mini) и Gemini 3 Flash. Править вывод руками было нельзя, звать экспертов по промптам тоже. Единственным автором он указал себя, а тему взял из своей докторской почти двадцатилетней давности: оптические солитоны, то есть световые импульсы, которые летят без изменения формы.

Первая попытка вышла тощей: без реальных данных модели с трудом набирали даже четыре страницы. Помогла декомпозиция. Статью разбили на абстракт, введение, методы и другие части и просили каждую отдельно. Когда одна модель отказывалась продолжать, задачу передавали другой или спрашивали, как выглядел бы следующий шаг «гипотетически». ChatGPT упирался сильнее Gemini и не хотел выдумывать данные. После примерно двух дюжин запросов были готовы текст, рисунки, подписи, список литературы и оформление под требования IEEE Access.

Самому автору статья показалась убедительной. Странных парафраз вроде «глубокой нейронной организации» вместо deep neural network там не было. Стилистические привычки ИИ (оговорки, перечисления по три, шаблонные «Таким образом») присутствовали, но уликой они не служат: так пишут и живые авторы.

Подделку выдали ссылки. Когда статью потом прогнали через Gemini, тот сам сообщил, что семь «современных ссылок на работы об LLM выдуманы под нужный сюжет». Управляющий редактор IEEE Access Дженни Махони не увидела в самой физике грубых ошибок: сомнение вызвали именно призрачные цитаты. Эксперт по солитонам Гаэтано Ассанто счёл текст профессиональным, но заметил слишком плотную математику, обилие аббревиатур в абстракте и пару самоуверенных утверждений, которые в лучшем случае спорны.

Раунд 2: автономная система FARS

Затем ставки подняли. FARS не только пишет текст, но и сама проводит исследование. Автор ввёл сокращённую версию той же темы и через 21 минуту получил план работы. Одним кликом он разрешил выполнить эксперимент. Вычислительный опыт система провела за ночь и на следующий день сообщила по почте, что закончила. Не проверяя результатов, автор нажал «Write paper», и ещё через 2 часа получил статью, готовую к отправке. Он убрал пометку FARS о происхождении текста, поставил своё имя и отправил работу в IEEE Access.

Теперь ссылки оказались настоящими, но журнал всё равно заметил проблему: слишком многие источники были препринтами без рецензирования. Выдали работу и мелочи: на одном техническом рисунке стояла бессмысленная подпись «lhewl», а на схеме ИИ-«мозга» остались случайные точки.

Что это значит для индустрии

Итог двоякий. Новичок с бесплатными инструментами автоматические проверки и внимательного редактора пока не обошёл. Но он сделал правдоподобную работу об исследовании, которого не было, и это заняло считаные часы. Более сильные платные модели могут ошибаться реже.

Директор IEEE по этике публикаций Луиджи Лонгобарди признаёт: детектор, построенный сегодня, может не сработать на статье завтрашнего ИИ. Тогда последним рубежом остаются рецензенты-волонтёры. IEEE Access получает около 60 000 работ в год и принимает примерно 20%, то есть около 12 000. Каждую читают минимум два рецензента.

Практический вывод для издателей и тех, кто строит ИИ-инструменты для науки: автоматическая проверка ссылок и источников пока самый дешёвый и надёжный фильтр. Ограничения эксперимента честные: один автор, одна узкая тема и один журнал с развитой защитой. В менее защищённых изданиях результат мог бы быть другим. Поэтому защиту стоит строить не вокруг стиля текста, который легко подделать, а вокруг проверяемых фактов: существуют ли источники, воспроизводятся ли данные и можно ли подтвердить сам эксперимент.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: раунд 1: бесплатные чат-боты?

Условия сделали нарочито любительскими. Журналист пользовался только бесплатными ChatGPT (на тот момент GPT-5.3/5.2 Mini) и Gemini 3 Flash. Править вывод руками было нельзя, звать экспертов по промптам тоже. Единственным автором он указал себя, а тему взял из своей докторской почти двадцатилетней давности: оптические солитоны, то есть световые импульсы, которые летят без изменения формы. Первая попытка вышла тощей: без реальных данных модели с трудом набирали даже четыре страницы. Помогла декомпозиция.

Что известно по теме: раунд 2: автономная система FARS?

Затем ставки подняли. FARS не только пишет текст, но и сама проводит исследование. Автор ввёл сокращённую версию той же темы и через 21 минуту получил план работы. Одним кликом он разрешил выполнить эксперимент. Вычислительный опыт система провела за ночь и на следующий день сообщила по почте, что закончила. Не проверяя результатов, автор нажал «Write paper», и ещё через 2 часа получил статью, готовую к отправке. Он убрал пометку FARS о происхождении текста, поставил своё имя и отправил работу в IEEE Access.

Что известно по теме: что это значит для индустрии?

Итог двоякий. Новичок с бесплатными инструментами автоматические проверки и внимательного редактора пока не обошёл. Но он сделал правдоподобную работу об исследовании, которого не было, и это заняло считаные часы. Более сильные платные модели могут ошибаться реже. Директор IEEE по этике публикаций Луиджи Лонгобарди признаёт: детектор, построенный сегодня, может не сработать на статье завтрашнего ИИ. Тогда последним рубежом остаются рецензенты-волонтёры.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…