Por que a IA erra em referências científicas: um sistema de verificação

O Habr AI apresentou um sistema de verificação automática de fontes científicas. Ele detecta erros de bibliografia gerados por modelos de IA: DOIs distorcidos, autores inexistentes e URLs quebradas.

Por que é preciso uma rede neural para verificar referências científicas?

Com o avanço dos modelos generativos, textos científicos trazem cada vez mais DOIs distorcidos, autores trocados, URLs quebradas e referências a trabalhos que simplesmente não existem.

O que um sistema de IA para referências científicas verifica?

O sistema não se limita a encontrar a lista de referências no documento: ele verifica se cada referência realmente existe e se é confiável.

Uma rede neural pode inventar uma fonte em um artigo científico?

Sim. Com o avanço dos modelos generativos, textos científicos trazem cada vez mais DOIs distorcidos, autores trocados e referências a trabalhos que simplesmente não existem.

Como verificar se a IA inventou uma referência em um texto?

O sistema do Habr AI verifica automaticamente cada referência: se ela realmente existe e se é confiável.

Que erros a IA comete em referências científicas?

Com o avanço dos modelos generativos, textos científicos e paracientíficos trazem cada vez mais DOIs distorcidos, autores trocados, URLs quebradas e referências a trabalhos que simplesmente não existem.