OpenAI e revistas científicas: artigos de IA ficaram melhores e sobrecarregam a revisão por pares

As revistas científicas enfrentam um problema novo: a IA passou a produzir em série artigos não mais absurdos, e sim totalmente plausíveis. Por isso, editores e revisores gastam cada vez mais tempo filtrando trabalhos que parecem convincentes, mas quase não acrescentam conhecimento novo.

Como o aumento foi percebido

O problema ganhou destaque depois de uma história estranha envolvendo o trabalho do pesquisador Peter Degen. Seu artigo de 2017 sobre análise estatística de dados epidemiológicos acumulava havia anos um número normal de citações para o meio acadêmico e, de repente, passou a receber citações literalmente a cada poucos dias. A verificação mostrou que ele era citado em massa por novos trabalhos baseados no conjunto de dados aberto Global Burden of Disease.

Formalmente, eram estudos sobre risco de AVC, câncer, quedas em idosos e dezenas de outros temas, mas, na prática, eram variações infinitas do mesmo modelo. Degen encontrou rastros dessa fábrica no GitHub e na plataforma chinesa Bilibili, onde uma empresa de Guangzhou anunciava aulas para criar artigos científicos publicáveis em menos de duas horas, com software próprio e assistentes de IA. Esses textos muitas vezes tinham erros e exageros, mas já não pareciam tão absurdos quanto o lixo inicial de IA.

Barrá-los ficou muito mais difícil, e a carga sobre as revistas aumentou.

É uma carga enorme sobre o peer review, que já opera no limite.

Por que os filtros falham

Antes, artigos falsos ou montados automaticamente tinham marcas visíveis: referências inventadas, ilustrações estranhas, frases de resposta de chatbot que escapavam para o texto final. As editoras já travavam uma guerra contra as paper mills, fábricas semilegais de artigos que vendem a autores publicações para turbinar o currículo. A IA generativa primeiro ajudou esses esquemas a driblar os antiplágios, mas ao mesmo tempo se denunciava com alucinações. Agora essa proteção quase sumiu: os manuscritos estão coerentes, bem estruturados e com estilo uniforme.

Os editores de revistas sentem isso de perto. Marit Moe-Pryce, editora-gerente da Security Dialogue, contou que o número de manuscritos recebidos cresceu cerca de 100 por cento em relação ao ano anterior, e que o principal problema é que quase todos parecem normais à primeira vista. Em um caso, um artigo passou por pelo menos dez editores e duas rodadas de revisão antes que alguém notasse uma referência plausível, mas inventada. Agora não basta verificar se a obra citada existe; é preciso também entender se um especialista de verdade a teria escolhido.

Onde o sistema quebra

O risco é ampliado não só por geradores de modelos prontos, mas também por agentes científicos mais autônomos. Pesquisadores da Carnegie Mellon mostraram que essas ferramentas podem inventar dados ou usar métodos duvidosos, embora o artigo final pareça polido. Matt Spick, da University of Surrey, testou a ferramenta Prism com dados já publicados sobre o amadurecimento de berinjelas e pimentões. O sistema propôs uma nova abordagem estatística e, em 25 minutos e 50 segundos, montou um artigo completo com gráficos e referências corretas, bom o bastante para surpreender de verdade cientistas experientes.

• As revistas registram aumento de 40–100 por cento no fluxo de entrada.
• Para encontrar dois revisores, os editores precisam escrever cada vez mais para 12–20 pessoas.
• Agências de fomento já recebem uma avalanche de propostas bem ajustadas.
• Conferências, redações e revisores gastam cada vez mais horas na checagem manual de trabalhos de utilidade duvidosa.

O problema não está só na qualidade dos modelos, mas na estrutura da própria ciência. Revistas de acesso aberto lucram com o processamento de manuscritos, universidades e fundações continuam olhando o número de publicações, e os pesquisadores vivem sob a lógica do publish or perish. Nesse cenário, a IA vira uma máquina de inflar métricas. Segundo um estudo deste ano publicado na Nature, cientistas que usam IA publicam três vezes mais artigos e recebem quase cinco vezes mais citações. Mas, com o aumento da produtividade, o foco se estreita: o sistema empurra os autores para temas já bem mapeados, em que é mais fácil sintetizar mais um resultado publicável.

O que isso significa

A principal ameaça hoje não é que a IA substitua por completo os cientistas, mas que ela já esteja minando os filtros humanos que sustentam a academia. Se o valor científico continuar sendo medido sobretudo pela quantidade de artigos e citações, os modelos só vão acelerar a produção de trabalhos que consomem o tempo dos outros, mas não fazem o conhecimento avançar. Assim, a ciência terá de mudar tanto as formas de verificar a autenticidade quanto as próprias regras do sucesso acadêmico.