Sudáfrica retira su borrador de política de IA tras hallar referencias científicas inventadas

Sudáfrica ha retirado el borrador de su política nacional de IA después de que se encontraran referencias científicas inventadas en el documento. La ironía es que un texto sobre la regulación de la IA probablemente se preparó en parte con IA generativa, y nadie comprobó el resultado antes de publicarlo.

Qué ocurrió

El ministro de Comunicaciones y Tecnologías Digitales de Sudáfrica, Solly Malatsi, retiró el borrador el 27 de abril tras una revisión interna. El detonante fue una investigación de News24: los periodistas detectaron que al menos seis de las 67 referencias académicas del documento de 86 páginas remiten a trabajos que no existen. Los nombres de las revistas eran reales, pero los artículos no.

El borrador ya había pasado por el Consejo de Ministros el 25 de marzo y el 10 de abril se publicó en el boletín oficial del Gobierno para consulta pública. Los comentarios se aceptaban hasta el 10 de junio.

Según Malatsi, la explicación más probable es que se colaron en el texto referencias generadas por IA sin la debida comprobación. El ministro prometió medidas contra los responsables de la preparación y del control de calidad, porque el error afectaba ya no a un borrador de trabajo, sino a un documento oficial del Estado.

Qué contenía el borrador

El documento se concibió como marco para la estrategia estatal de IA. Se basaba en un enfoque basado en el riesgo, en parte inspirado en el AI Act europeo, y proponía desplegar la regulación por etapas: desde normas básicas y recomendaciones hasta estrategias sectoriales e instituciones específicas. El texto también mencionaba subvenciones, ayudas e incentivos fiscales para el sector privado.

El borrador incluía varias estructuras y mecanismos nuevos a la vez:

• Comisión Nacional de IA
• consejo de ética de la IA y un regulador independiente
• defensor del pueblo para la IA
• instituto nacional de seguridad de la IA
• superfondo de seguros para casos de responsabilidad controvertidos

Además, el borrador oficial fijaba seis ejes estratégicos: desarrollo de talento, IA para el crecimiento inclusivo y el empleo, gobernanza responsable, IA ética e inclusiva, preservación cultural e integración internacional, y adopción de la IA con prioridad para las personas.

Para el contexto africano era un marco ambicioso: el Estado quería claramente estimular el mercado y crear a la vez su propio modelo de supervisión, en lugar de limitarse a copiar las normas europeas.

Dónde falló el proceso

El problema no estaba solo en las referencias falsas, sino en que el documento pasó por varios niveles de aprobación. Los editores de South African Journal of Philosophy, AI & Society y Journal of Ethics and Social Philosophy confirmaron que los artículos citados nunca se publicaron en sus revistas.

Es decir, no se trató de un descuido aislado, sino de fuentes verosímiles pero inventadas, con aspecto lo bastante convincente como para superar una revisión de despacho.

«Es un fallo inaceptable que demuestra por qué el uso de la IA exige

un control humano estricto».

La historia ilustra una debilidad típica de los modelos generativos. Pueden producir textos coherentes y seguros de sí mismos y dar a las referencias el formato de una bibliografía académica normal. Pero un modelo no está obligado a comprobar si un artículo existe de verdad. Si un equipo usa la IA como borrador y luego no valida cada referencia a mano, el error llega con facilidad al documento final.

En un documento gubernamental, el coste de ese descuido es mayor de lo habitual: no solo se resiente el texto, sino también la confianza en la institución que pretende regular la propia tecnología.

Qué significa

El escándalo ha hecho retroceder la agenda de IA de Sudáfrica: habrá que reescribir el borrador, someterlo de nuevo a consulta y volver a demostrar su legitimidad. Para otros Estados y empresas, la conclusión es sencilla: se puede usar IA para preparar documentos, pero las referencias, las citas y los datos hay que comprobarlos a mano antes de publicar, no después del escándalo.

El caso sudafricano muestra que el riesgo más doloroso de la IA generativa no es un fallo estruendoso, sino un error presentado con aplomo y detectado demasiado tarde.