Chatbots de IA distribuíram desinformação para eleitores antes das eleições na Escócia

Um estudo do centro analítico independente Demos revelou problemas críticos com a qualidade das informações em chatbots de IA populares. Antes das recentes eleições na Escócia, ChatGPT, Gemini, Grok, Replika e outros serviços forneceram desinformação em um terço dos casos, compilando escândalos inventados e criando candidatos inexistentes. Os resultados geraram preocupação entre reguladores e especialistas em cibersegurança.

O que o Demos descobriu

Os pesquisadores do Demos realizaram testes sistemáticos — fizeram aos serviços de IA mais de cinquenta perguntas sobre as próximas eleições escocesas, procedimentos eleitorais, candidatos e resultados de votação. Os resultados foram alarmantes e inesperados. No geral, 34% de todas as respostas continham desinformação.

Os serviços de IA não apenas se equivocavam em detalhes — criavam narrativas completamente inventadas. Alguns chatbots inventavam escândalos políticos que nunca existiram na realidade. Outros inventavam candidatos que não participaram das eleições. Outros ainda indicavam datas completamente incorretas para a votação. O mais perigoso nesses erros é que a IA fazia tudo isso com plena confiança, sem ressalvas sobre sua incerteza ou reconhecimento da indeterminação. Um usuário, ao ler essa resposta, poderia acreditar completamente no fato inventado e tomar uma decisão importante baseada nele dentro da cabine de votação.

Exigência de novas regras

A Electoral Commission (Comissão Eleitoral da Grã-Bretanha) após a publicação dos resultados do estudo fez uma exigência oficial: introduzir novos mecanismos legais de controle sobre plataformas de IA. A Comissão ressaltou um problema crítico: o atual marco legal do Reino Unido não prevê ferramentas suficientes para combater a desinformação distribuída por sistemas de IA.

"Vemos um problema real: os serviços de IA estão se tornando fontes cada vez mais influentes de informação para os cidadãos, mas permanecem praticamente sem supervisão", afirmou a Electoral Commission.

De acordo com os reguladores, é necessário implementar as seguintes medidas:

• Marcações e avisos obrigatórios em respostas de IA sobre o risco de desinformação
• Requisitos técnicos para provedores: fixar claramente a data de treinamento do modelo e indicar o limite de seus conhecimentos
• Responsabilidade legal das plataformas pela disseminação de informações falsas durante as eleições
• Transparência total no treinamento dos modelos — quais dados exatamente foram usados

Por que isso é sério

O problema fica cada vez mais agudo à medida que a popularidade da IA cresce. ChatGPT, Gemini e sistemas semelhantes já são usados bilhões de vezes por mês por pessoas para buscar informações. No entanto, esses modelos permanecem não confiáveis em questões que exigem informações atualizadas sobre eventos específicos. A IA foi treinada em dados até uma determinada data, portanto seu conhecimento inevitavelmente fica desatualizado.

Quando o sistema não sabe a resposta, em vez de simplesmente reconhecer sua ignorância, muitas vezes "alucina" — inventa fatos plausíveis que parecem convincentes para o usuário médio. Para eleições e outras informações críticas, isso representa uma ameaça real ao processo democrático.

O que isso significa

O estudo do Demos confirmou o que especialistas em segurança da informação há muito alertam: os chatbots de IA são perigosos no contexto de eleições políticas e decisões públicas importantes. A regulação de plataformas de IA não se torna simplesmente uma questão de responsabilidade tecnológica, mas também uma questão de proteção dos processos democráticos.

Para usuários comuns, a conclusão é simples: não se deve confiar em IA como fonte principal de informação sobre política, eleições ou outros eventos criticamente importantes. Sempre verifique as informações através de fontes oficiais, publicações de notícias autorizadas e recursos do governo.