L'Afrique du Sud retire le projet de politique sur l'IA après découverte de références scientifiques fabricées

L'Afrique du Sud a retiré son projet de politique nationale sur l'IA après la découverte de références scientifiques falsifiées dans le document. L'ironie est que le document sur la régulation de l'IA a probablement été partiellement préparé en utilisant l'IA générative — et le résultat n'a pas été vérifié avant sa publication.

Ce qui s'est passé

Le ministre sud-africain des Communications et des Technologies numériques, Solly Malatsi, a retiré le projet de politique le 27 avril suite à un examen interne. Le déclencheur a été une enquête de News24 : des journalistes ont découvert qu'au moins six des 67 références académiques du document de 86 pages pointaient vers des travaux qui n'existent pas. Les noms des revues étaient réels, mais les articles eux-mêmes ne l'étaient pas. Le projet avait précédemment été approuvé par le cabinet le 25 mars et a été publié le 10 avril dans la gazette officielle du gouvernement pour discussion publique. Les commentaires devaient être acceptés jusqu'au 10 juin.

Selon Malatsi, l'explication la plus probable est que des références générées par l'IA se sont retrouvées dans le texte sans vérification appropriée. Le ministre a promis des mesures contre ceux responsables de la préparation et du contrôle de la qualité, car l'erreur a affecté non pas un brouillon, mais un document officiel du gouvernement.

Ce que contenait le projet

Le document a été conçu comme un cadre pour la stratégie nationale de l'État en matière d'IA. Il s'appuyait sur une approche basée sur les risques, partiellement inspirée par l'AI Act européenne, et proposait de déployer la réglementation par étapes : des règles et recommandations de base aux stratégies sectorielles et aux institutions distinctes. Le texte discutait également des subventions, des allocations et des incitations fiscales pour le secteur privé.

Le projet présentait plusieurs nouvelles structures et mécanismes :

• Commission nationale sur l'IA
• conseil d'éthique de l'IA et régulateur distinct
• médiateur pour l'IA
• Institut national de sécurité de l'IA
• superfonds d'assurance pour les cas de responsabilité contestés

De plus, le projet officiel énumérait six orientations stratégiques : développement de la main-d'œuvre, IA pour la croissance inclusive et l'emploi, gouvernance responsable, IA éthique et inclusive, préservation culturelle et intégration internationale, et mise en œuvre de l'IA avec les intérêts humains comme priorité.

Pour le contexte africain, c'était un cadre ambitieux : l'État voulait clairement à la fois stimuler le marché et créer son propre modèle de surveillance, plutôt que de simplement copier les règles européennes.

Où le processus a échoué

Le problème s'est avéré être non seulement les fausses références elles-mêmes, mais aussi que le document a traversé plusieurs niveaux d'approbation. Les rédacteurs du South African Journal of Philosophy, AI & Society et du Journal of Ethics and Social Philosophy ont confirmé que les articles cités n'avaient jamais été publiés dans leurs revues. En d'autres termes, ce n'était pas une simple erreur négligente, mais des sources plausibles mais falsifiées qui semblaient assez convaincantes pour passer l'examen du cabinet.

"C'est une défaillance inacceptable qui montre pourquoi une

surveillance humaine stricte est nécessaire lors de l'utilisation de l'IA."

Cette histoire illustre la faiblesse typique des modèles génératifs. Ils excellent à assembler un texte cohérent et confiant et à formater les références comme si vous regardiez une bibliographie académique normale. Mais le modèle n'est pas obligé de vérifier si l'article existe réellement. Si une équipe utilise l'IA comme brouillon, puis ne valide pas manuellement chaque référence, l'erreur atteint facilement le document final. Dans le cas d'un document gouvernemental, le coût d'une telle omission est plus élevé qu'à l'ordinaire : non seulement le texte est en jeu, mais aussi la confiance dans l'institution qui s'apprête à réglementer la technologie elle-même.

Ce que cela signifie

Le scandale a reculé l'agenda de l'IA en Afrique du Sud : le projet devra être réécrit, resoumis à consultation et re-légitimisé. Pour les autres États et entreprises, la conclusion est simple : l'IA peut être utilisée dans la préparation des documents, mais les références, citations et faits doivent être vérifiés manuellement avant la publication, non après un scandale.

L'histoire de l'Afrique du Sud montre que le risque le plus douloureux de l'IA générative n'est pas une défaillance bruyante, mais une erreur formatée avec assurance découverte trop tard.