Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAnálisis · En radarIEEE Spectrum AI→ original

Un periodista creó un artículo falso con 24 consultas a una IA, pero IEEE Access lo detectó por las referencias

Un periodista de IEEE Spectrum comprobó si, usando ChatGPT y Gemini gratuitos, podía producir un artículo científico falso que superara los filtros de una revista. Con 24 consultas reunió un texto verosímil sobre solitones ópticos, pulsos de luz que se propagan sin cambiar de forma, sin haber realizado ningún experimento. La revista lo rechazó porque las referencias eran inventadas. Un segundo intento con FARS, un sistema autónomo que realiza el experimento computacional por sí mismo, también fue detectado. Esta vez las referencias eran reales, pero la revista señaló que muchas eran preprints sin revisión por pares. La conclusión es que, por ahora, verificar las fuentes es el filtro más barato contra la basura generada por IA.

Procesado por IA desde IEEE Spectrum AI; editado por Hamidun News
Un periodista creó un artículo falso con 24 consultas a una IA, pero IEEE Access lo detectó por las referencias
Fuente: IEEE Spectrum AI. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalIEEE Spectrum AI ↗
Editor jefe
Dato clave #1El 57% de los artículos científicos de 2025 muestran huellas de LLM, frente al 12% en 2023.
Dato clave #2FARS elaboró el plan en 21 minutos y escribió el artículo en 2 horas.
Dato clave #3Gemini reconoció por sí mismo siete fuentes inventadas en el artículo.

Imagine que quiere publicar un artículo científico sobre un experimento que nunca se realizó, y que solo dispone de chatbots gratuitos. ¿Lo conseguiría? El autor de IEEE Spectrum decidió comprobarlo en la práctica.

Con unas dos docenas de consultas (alrededor de 24) a ChatGPT y Gemini gratuitos, reunió un trabajo de aspecto sólido, lo envió a la revista IEEE Access y recibió un rechazo: la revisión detectó «citas fantasma», es decir, referencias a trabajos que no existen. Hizo un segundo intento con FARS, un sistema autónomo que realiza por sí mismo un experimento computacional, y también fue detectado. Por qué leerlo: según una estimación de un trabajo publicado en PNAS, en 2025 las huellas de los grandes modelos de lenguaje (LLM) eran visibles en el 57% de los artículos publicados, frente al 12% en 2023.

Más del 12% de las revisiones en Nature Communications de 2025 resultaron estar generadas íntegramente por IA. Por cada 40 artículos con indicios estadísticos de IA, solo hay una declaración formal de su uso.

Ronda 1: chatbots gratuitos

Las condiciones se diseñaron deliberadamente como las de un aficionado. El periodista usó únicamente ChatGPT gratuito (en ese momento GPT-5.3/5.2 Mini) y Gemini 3 Flash. No se le permitió corregir el resultado a mano ni recurrir a expertos en prompts. Se nombró como único autor y tomó el tema de su tesis doctoral, de hace casi veinte años: los solitones ópticos, es decir, pulsos de luz que se propagan sin cambiar de forma.

El primer intento fue pobre: sin datos reales, los modelos apenas conseguían redactar cuatro páginas. Lo que funcionó fue la descomposición. El artículo se dividió en resumen, introducción, métodos y otras secciones, y cada una se pidió por separado. Cuando un modelo se negaba a continuar, la tarea pasaba a otro o se preguntaba cómo sería el siguiente paso «de forma hipotética». ChatGPT se resistía más que Gemini y no quería inventar datos. Tras unas dos docenas de consultas, el texto, las figuras, los pies de figura, la bibliografía y el formato según los requisitos de IEEE Access estaban listos.

Al propio autor el artículo le pareció convincente. No aparecían paráfrasis extrañas del tipo «organización neuronal profunda» en lugar de deep neural network. Los hábitos estilísticos de la IA (matices, enumeraciones de tres elementos, expresiones de plantilla como «Así pues») estaban presentes, pero no constituyen una prueba, porque también los escriben los autores humanos.

Lo que delató la falsificación fueron las referencias. Cuando el texto se pasó después por Gemini, este señaló por sí mismo que siete «referencias recientes sobre LLM» estaban inventadas para ajustarse a la historia. La editora jefe de IEEE Access, Jenny Mahony, no encontró errores groseros en la física; la duda surgió precisamente por las citas fantasma. El experto en solitones Gaetano Assanto consideró el texto profesional, pero advirtió matemáticas excesivamente densas, abundancia de siglas en el resumen y un par de afirmaciones muy seguras que, en el mejor de los casos, son discutibles.

Ronda 2: el sistema autónomo FARS

Después se elevaron las apuestas. FARS no solo escribe el texto, sino que además lleva a cabo la investigación. El autor introdujo una versión abreviada del mismo tema y, 21 minutos después, obtuvo el plan de trabajo. Con un clic autorizó la ejecución del experimento. El sistema realizó el experimento computacional durante la noche y al día siguiente informó por correo de que había terminado. Sin comprobar los resultados, el autor pulsó «Write paper» y, 2 horas más tarde, recibió un artículo listo para enviar. Eliminó la marca de FARS que indicaba el origen del texto, puso su propio nombre y envió el trabajo a IEEE Access.

Ahora las referencias eran reales, pero la revista detectó igualmente el problema: demasiadas fuentes eran preprints sin revisión por pares. También se encontraron detalles que delataban el origen del texto: en una figura técnica aparecía el pie sin sentido «lhewl» y en un esquema del «cerebro» de la IA quedaban puntos aleatorios.

Qué significa esto para la industria

El resultado es ambivalente. Un principiante con herramientas gratuitas todavía no ha burlado las comprobaciones automáticas ni a un editor atento. Pero ha producido un trabajo verosímil sobre una investigación que nunca existió, y le ha llevado solo unas horas. Los modelos de pago más potentes podrían equivocarse con menos frecuencia.

Luigi Longobardi, director de ética de publicaciones de IEEE, reconoce que un detector diseñado hoy puede no funcionar con el artículo de la IA de mañana. En ese caso, la última línea de defensa son los revisores voluntarios. IEEE Access recibe unos 60 000 trabajos al año y acepta alrededor del 20%, es decir, unos 12 000. Cada uno lo leen al menos dos revisores.

La conclusión práctica para editores y para quienes desarrollan herramientas de IA para la ciencia es que la verificación automática de referencias y fuentes sigue siendo el filtro más barato y fiable. Las limitaciones del experimento son claras: un solo autor, un tema muy concreto y una revista con sólidos mecanismos de control. En publicaciones con menos protección el resultado podría haber sido distinto. Por eso la defensa conviene construirla no en torno al estilo del texto, que es fácil de imitar, sino en torno a hechos verificables: si las fuentes existen, si los datos son reproducibles y si el experimento puede confirmarse.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Ronda 1: chatbots gratuitos?

Las condiciones se diseñaron deliberadamente como las de un aficionado. El periodista usó únicamente ChatGPT gratuito (en ese momento GPT-5.3/5.2 Mini) y Gemini 3 Flash. No se le permitió corregir el resultado a mano ni recurrir a expertos en prompts. Se nombró como único autor y tomó el tema de su tesis doctoral, de hace casi veinte años: los solitones ópticos, es decir, pulsos de luz que se propagan sin cambiar de forma.

¿Qué se sabe sobre Ronda 2: el sistema autónomo FARS?

Después se elevaron las apuestas. FARS no solo escribe el texto, sino que además lleva a cabo la investigación. El autor introdujo una versión abreviada del mismo tema y, 21 minutos después, obtuvo el plan de trabajo. Con un clic autorizó la ejecución del experimento. El sistema realizó el experimento computacional durante la noche y al día siguiente informó por correo de que había terminado. Sin comprobar los resultados, el autor pulsó «Write paper» y, 2 horas más tarde, recibió un artículo listo para enviar.

¿Qué se sabe sobre Qué significa esto para la industria?

El resultado es ambivalente. Un principiante con herramientas gratuitas todavía no ha burlado las comprobaciones automáticas ni a un editor atento. Pero ha producido un trabajo verosímil sobre una investigación que nunca existió, y le ha llevado solo unas horas. Los modelos de pago más potentes podrían equivocarse con menos frecuencia. Luigi Longobardi, director de ética de publicaciones de IEEE, reconoce que un detector diseñado hoy puede no funcionar con el artículo de la IA de mañana.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…