L'Afrique du Sud retire son projet de politique sur l'IA après la découverte de références scientifiques inventées

L'Afrique du Sud a retiré son projet de politique nationale sur l'IA après la découverte de références scientifiques inventées dans le document. L'ironie : un texte consacré à la régulation de l'IA a probablement été rédigé en partie avec de l'IA générative, sans que personne ne vérifie le résultat avant publication.

Ce qui s'est passé

Le ministre sud-africain des Communications et des Technologies numériques, Solly Malatsi, a retiré le projet le 27 avril à l'issue d'une vérification interne. Le point de départ est une enquête de News24 : les journalistes ont constaté qu'au moins six des 67 références académiques du document de 86 pages renvoient à des travaux qui n'existent pas. Les noms des revues étaient réels, mais pas les articles.

Le projet avait déjà été validé par le conseil des ministres le 25 mars et publié le 10 avril au journal officiel pour consultation publique. Les commentaires étaient acceptés jusqu'au 10 juin.

Selon Malatsi, l'explication la plus probable est que des références générées par IA se sont glissées dans le texte sans vérification en bonne et due forme. Le ministre a promis des mesures contre les responsables de la préparation et du contrôle qualité, car l'erreur touchait non pas un brouillon, mais un document officiel de l'État.

Ce que contenait le projet

Le document devait servir de cadre à la stratégie nationale sur l'IA. Il reposait sur une approche fondée sur les risques, en partie inspirée de l'AI Act européen, et proposait de déployer la régulation par étapes : des règles de base et recommandations jusqu'aux stratégies sectorielles et à des institutions dédiées. Le texte évoquait aussi des subventions, des aides et des incitations fiscales pour le secteur privé.

Le projet faisait apparaître plusieurs nouvelles structures et mécanismes :

• Commission nationale de l'IA
• conseil d'éthique de l'IA et régulateur distinct
• médiateur de l'IA
• institut national de sécurité de l'IA
• superfonds d'assurance pour les cas de responsabilité litigieux

Le projet officiel fixait en outre six axes stratégiques : développement des compétences, IA pour une croissance inclusive et l'emploi, gouvernance responsable, IA éthique et inclusive, préservation culturelle et intégration internationale, et déploiement de l'IA centré sur l'humain.

Pour le contexte africain, le cadre était ambitieux : l'État voulait manifestement stimuler le marché et bâtir en même temps son propre modèle de supervision, plutôt que de recopier les règles européennes.

Où le processus a déraillé

Le problème ne tenait pas seulement aux fausses références, mais au fait que le document est passé par plusieurs niveaux de validation. Les rédactions du South African Journal of Philosophy, d'AI & Society et du Journal of Ethics and Social Philosophy ont confirmé que les articles cités n'avaient jamais été publiés chez elles.

Il ne s'agissait donc pas d'une simple négligence isolée, mais de sources plausibles et pourtant inventées, assez convaincantes pour franchir un contrôle administratif.

«

Il s'agit d'un échec inacceptable, qui montre pourquoi l'usage de l'IA exige un contrôle humain strict. »

Cette affaire illustre une faiblesse typique des modèles génératifs. Ils savent produire un texte cohérent et assuré, et mettre en forme des références comme une bibliographie académique ordinaire. Mais un modèle n'a aucune obligation de vérifier qu'un article existe réellement. Si une équipe se sert de l'IA pour un premier jet et ne valide pas ensuite chaque référence à la main, l'erreur arrive facilement jusqu'au document final.

Pour un document gouvernemental, le prix d'un tel oubli est plus élevé qu'à l'ordinaire : c'est non seulement le texte qui est touché, mais aussi la confiance envers l'institution qui prétend réguler la technologie elle-même.

Ce que cela signifie

Le scandale fait reculer l'agenda sud-africain sur l'IA : le projet devra être réécrit, soumis à une nouvelle consultation, et sa légitimité devra être rétablie. Pour les autres États et entreprises, la leçon est simple : on peut utiliser l'IA pour préparer des documents, mais les références, citations et données doivent être vérifiées à la main avant publication, et non après un scandale.

L'épisode sud-africain montre que le risque le plus douloureux de l'IA générative n'est pas la panne spectaculaire, mais l'erreur présentée avec aplomb et repérée trop tard.