Los chatbots de IA distribuyeron desinformación a los votantes antes de las elecciones en Escocia

Un estudio del centro analítico independiente Demos reveló problemas críticos con la calidad de la información en los populares chatbots de IA. Antes de las recientes elecciones en Escocia, ChatGPT, Gemini, Grok, Replika y otros servicios proporcionaban desinformación a los votantes en un tercio de los casos, inventando escándalos ficticios e imaginando candidatos inexistentes. Los resultados generaron preocupación entre los reguladores y especialistas en ciberseguridad.

Lo que encontró Demos

Los investigadores de Demos realizaron pruebas sistemáticas: formularon a los servicios de IA más de cincuenta preguntas sobre las próximas elecciones escocesas, procedimientos electorales, candidatos y resultados de votación. Los resultados fueron alarmantes e inesperados. En general, el 34% de todas las respuestas contenían desinformación.

Los servicios de IA no simplemente se equivocaban en detalles: creaban narrativas completamente ficticias. Algunos chatbots inventaban escándalos políticos que nunca ocurrieron en la realidad. Otros imaginaban candidatos que no participaron en las elecciones. Otros indicaban fechas de votación completamente incorrectas.

Lo más peligroso de estos errores es que la IA hacía todo esto con completa seguridad, sin advertencias sobre su incertidumbre o reconocimiento de la indeterminación. Un usuario que leyera tal respuesta podría creer completamente el hecho ficticio y tomar una decisión importante basada en él dentro de la cabina electoral.

Exigencia de nuevas normas

La Electoral Commission (Comisión Electoral de Gran Bretaña) publicó una exigencia oficial después de la publicación de los resultados del estudio: introducir nuevos mecanismos legales de control sobre las plataformas de IA. La Comisión subrayó un problema crítico: el marco legal actual de Gran Bretaña no proporciona herramientas suficientes para combatir la desinformación distribuida por sistemas de IA.

«Vemos un problema real: los servicios de IA se están convirtiendo en fuentes de información cada vez más influyentes para los ciudadanos, pero permanecen prácticamente sin supervisión alguna», declararon en la Electoral Commission.

Según los reguladores, es necesario implementar las siguientes medidas:

• Etiquetas y advertencias obligatorias en respuestas de IA sobre el riesgo de desinformación
• Requisitos técnicos para proveedores: registrar claramente la fecha de entrenamiento del modelo e indicar el límite de sus conocimientos
• Responsabilidad legal de las plataformas por la distribución de información falsa durante las elecciones
• Transparencia total en el entrenamiento de modelos — qué datos exactamente se utilizaron

Por qué es serio

El problema se vuelve cada vez más grave a medida que crece la popularidad de la IA. ChatGPT, Gemini y sistemas similares ya se utilizan miles de millones de veces al mes para buscar información. Sin embargo, estos modelos siguen siendo poco confiables en cuestiones que requieren información actualizada sobre eventos específicos. La IA se entrena con datos hasta una fecha determinada, por lo que sus conocimientos inevitablemente se vuelven obsoletos.

Cuando el sistema no conoce la respuesta, en lugar de simplemente admitir su ignorancia, a menudo «alucina» — inventa hechos plausibles que suenan convincentes para el usuario promedio. Para elecciones e información crítica, esto representa una amenaza real para el proceso democrático.

Qué significa

El estudio de Demos confirmó lo que los especialistas en seguridad de la información han advertido durante mucho tiempo: los chatbots de IA son peligrosos en el contexto de elecciones políticas y decisiones públicas importantes. La regulación de las plataformas de IA se convierte no solo en una cuestión de responsabilidad tecnológica, sino en una cuestión de proteger los procesos democráticos.

Para los usuarios ordinarios, la conclusión es simple: no se debe confiar en la IA como fuente principal de información sobre política, elecciones u otros eventos críticos. Siempre verifica la información a través de fuentes oficiales, medios de comunicación autorizados y recursos gubernamentales.