OpenAI y las revistas científicas: los artículos de IA mejoran y saturan la revisión por pares

Las revistas científicas se enfrentan a un problema nuevo: la IA ha empezado a producir en serie artículos no descabelladamente absurdos, sino perfectamente verosímiles. Por eso, editores y revisores dedican cada vez más tiempo a descartar trabajos que parecen convincentes pero casi no aportan conocimiento nuevo.

Cómo se detectó el aumento

El problema saltó a la conversación pública tras una extraña historia con el trabajo del investigador Peter Degen. Su artículo de 2017 sobre análisis estadístico de datos epidemiológicos había acumulado durante años un número normal de citas para el ámbito académico, y de pronto empezó a recibirlas literalmente cada pocos días. La comprobación mostró que lo citaban en masa nuevos trabajos basados en el conjunto de datos abierto Global Burden of Disease.

Formalmente eran estudios sobre el riesgo de ictus, cáncer, caídas en personas mayores y decenas de temas más, pero en esencia eran variaciones infinitas de una misma plantilla. Degen encontró rastros de esta fábrica en GitHub y en la plataforma china Bilibili, donde una empresa de Guangzhou anunciaba clases para crear artículos científicos publicables en menos de dos horas con su propio software y asistentes de IA. Estos textos solían contener errores y exageraciones, pero ya no parecían tan absurdos como la primera basura generada por IA.

Descartarlos se volvió mucho más difícil y la carga para las revistas aumentó.

Es una carga enorme para el peer review, que ya trabaja al límite.

Por qué fallan los filtros

Antes, los artículos falsos o ensamblados automáticamente tenían marcas visibles: referencias inventadas, ilustraciones raras, frases propias de un chatbot que se colaban en el texto final. Los editores ya libraban una guerra contra las paper mills, fábricas semilegales de artículos que venden a los autores publicaciones para engordar el currículum. La IA generativa primero ayudó a estos esquemas a burlar los antiplagio, pero a la vez se delataba con alucinaciones. Ahora esa red de seguridad casi ha desaparecido: los manuscritos son coherentes, están bien estructurados y tienen un estilo uniforme.

Los editores de revistas lo notan especialmente. Marit Moe-Pryce, editora gerente de Security Dialogue, contó que el número de manuscritos recibidos ha crecido aproximadamente un 100 por ciento interanual, y que el principal problema es que casi todos parecen normales a primera vista. En un caso, un artículo pasó por al menos diez editores y dos rondas de revisión antes de que alguien detectara una referencia verosímil pero inventada. Ya no basta con comprobar si existe la obra citada; hay que entender además si un experto real la habría elegido.

Dónde se rompe el sistema

El riesgo lo amplían no solo los generadores de plantillas, sino también agentes científicos más autónomos. Investigadores de Carnegie Mellon mostraron que estas herramientas pueden inventar datos o usar métodos dudosos aunque el artículo final se vea pulido. Matt Spick, de la University of Surrey, probó la herramienta Prism con datos ya publicados sobre la maduración de berenjenas y pimientos. El sistema propuso un nuevo enfoque estadístico y en 25 minutos y 50 segundos montó un artículo completo con gráficos y referencias correctas, lo bastante bueno como para sorprender de verdad a científicos con experiencia.

• Las revistas registran un aumento del flujo entrante del 40–100 por ciento.
• Para encontrar a dos revisores, los editores tienen que escribir cada vez más a 12–20 personas.
• Los financiadores de becas ya reciben una avalancha de solicitudes cuidadosamente ajustadas.
• Congresos, redacciones y revisores dedican cada vez más horas a la comprobación manual de trabajos de utilidad dudosa.

El problema no depende solo de la calidad de los modelos, sino de cómo está construida la ciencia. Las revistas de acceso abierto ganan dinero tramitando manuscritos, las universidades y las fundaciones siguen mirando el número de publicaciones, y los investigadores viven bajo la lógica de publish or perish. En ese contexto, la IA se convierte en una máquina para inflar métricas. Según un estudio de este año publicado en Nature, los científicos que usan IA publican tres veces más artículos y reciben casi cinco veces más citas. Pero junto con la productividad se estrecha el foco: el sistema empuja a los autores hacia temas ya bien cartografiados, donde es más fácil sintetizar un resultado publicable más.

Qué significa

La principal amenaza ahora no es que la IA sustituya por completo a los científicos, sino que ya está socavando los filtros humanos en los que se sostiene la academia. Si el valor científico sigue midiéndose sobre todo por el número de artículos y citas, los modelos solo acelerarán la producción de trabajos que consumen el tiempo ajeno pero no hacen avanzar el conocimiento. Por tanto, la ciencia tendrá que cambiar tanto los métodos de verificación de la autenticidad como las propias reglas del éxito académico.