Colapso del Modelo
El colapso del modelo es la degradación progresiva de la calidad y diversidad de la salida de un modelo de IA cuando se entrena en datos generados por IA, causando que generaciones sucesivas de modelos pierdan cobertura de patrones raros pero importantes presentes en la distribución de datos originalmente generada por humanos.
El colapso del modelo—también denominado "la maldición de la recursión"—es un modo de falla documentado formalmente en un artículo de 2023 por Shumailov y colegas en la Universidad de Oxford y Google DeepMind. Cuando modelos de IA se entrenan en conjuntos de datos que incluyen proporciones significativas de contenido producido por modelos de IA anteriores en lugar de originales generados por humanos, cada generación de entrenamiento sucesiva progresivamente estrecha la distribución estadística que el modelo ha aprendido. Patrones raros, puntos de vista minoritarios e información de baja frecuencia pero exacta son las primeras bajas; las salidas del modelo convergen hacia un modo más homogéneo y central.
Dos mecanismos compuestos conducen el colapso. Primero, los datos generados por modelo aproximan pero comprimen la distribución de entrenamiento—los modelos generativos están sesgados hacia salidas probables e infrarrepresentan sistemáticamente las colas. Segundo, los errores de estimación se acumulan entre generaciones: los sesgos pequeños introducidos en la generación 1 se convierten en la señal de entrenamiento para la generación 2, amplificando esos sesgos más. En modelos de lenguaje, el resultado descendente es una deriva hacia prosa blanda y repetitiva; en generadores de imágenes, hacia composiciones visualmente uniformes.
El colapso del modelo importa porque internet—el corpus de entrenamiento primario para modelos fronterizos—se está llenando rápidamente de contenido generado por IA. Múltiples análisis publicados entre 2023 y 2025 encontraron fracciones medibles y crecientes de texto generado por IA a través de foros, redes sociales y agregadores de noticias, con algunos dominios de contenido mostrando saturación particularmente alta. Si se deja sin abordar, futuras ejecuciones de entrenamiento arriesgan contaminación sistemática, produciendo modelos con capacidad estrecha y diversidad de salida incluso si las puntuaciones de referencia en tareas comunes permanecen estables.
Los investigadores están explorando varias mitigaciones: marcar con marca de agua contenido generado por IA para que pueda ser filtrado de futuros conjuntos de entrenamiento, mantener corpora de autor humano curado de alta calidad y desarrollar estrategias de mezcla de datos que preserven ejemplos raros. A partir de 2026, ninguna organización de entrenamiento ha anunciado una solución completa; el problema es ampliamente considerado como uno de los riesgos estructurales a largo plazo primarios para la calidad de los modelos fundacionales.