Pourquoi l'IA se trompe dans les références scientifiques : un système de vérification

Habr AI a présenté un système de vérification automatique des sources scientifiques. Il détecte les erreurs de bibliographie produites par les modèles d'IA : DOI déformés, auteurs inexistants et URL cassées.

Pourquoi faut-il un réseau de neurones pour vérifier les références

scientifiques ? Avec l'essor des modèles génératifs, les textes scientifiques contiennent de plus en plus de DOI déformés, d'auteurs confondus, d'URL cassées et de renvois à des travaux qui n'existent tout simplement pas.

Que vérifie un système d'IA pour les références scientifiques ?

Le système ne se contente pas de repérer la liste bibliographique dans le document : il vérifie si chaque référence existe réellement et si elle est fiable.

Un réseau de neurones peut-il inventer une source dans un article scientifique ?

Oui. Avec l'essor des modèles génératifs, les textes scientifiques contiennent de plus en plus de DOI déformés, d'auteurs confondus et de renvois à des travaux qui n'existent tout simplement pas.

Comment vérifier si une IA a inventé une référence dans un texte ?

Le système présenté sur Habr AI vérifie automatiquement chaque référence : existe-t-elle réellement et peut-on lui faire confiance.

Quelles erreurs l'IA commet-elle dans les références scientifiques ?

Avec l'essor des modèles génératifs, les textes scientifiques et para-scientifiques contiennent de plus en plus de DOI déformés, d'auteurs confondus, d'URL cassées et de renvois à des travaux qui n'existent tout simplement pas.