Colapso de Modelo

Colapso de modelo—também chamado de "maldição da recursão"—é um modo de falha documentado formalmente em um artigo de 2023 por Shumailov e colegas da Universidade de Oxford e do Google DeepMind. Quando modelos de IA são treinados em conjuntos de dados que incluem proporções significativas de conteúdo produzido por modelos de IA anteriores ao invés de originais gerados por humanos, cada geração sucessiva de treinamento estreita progressivamente a distribuição estatística que o modelo aprendeu. Padrões raros, perspectivas minoritárias e informação de baixa frequência mas precisa são as primeiras vítimas; as saídas do modelo convergem para um modo mais homogêneo e central.

Dois mecanismos que se reforçam impulsionam o colapso. Primeiro, dados gerados por modelo aproximam mas comprimem a distribuição de treinamento—modelos generativos são enviesados para saídas prováveis e sistematicamente subrepresentam as caudas. Segundo, erros de estimação acumulam ao longo das gerações: pequenos vieses introduzidos na geração 1 tornam-se o sinal de treinamento para a geração 2, amplificando ainda mais esses vieses. Em modelos de linguagem, o resultado à jusante é uma deriva em direção a prosa monótona e repetitiva; em geradores de imagem, em direção a composições visualmente uniformes.

Colapso de modelo importa porque a internet—o corpus de treinamento primário para modelos de fronteira—está rapidamente se enchendo com conteúdo gerado por IA. Múltiplas análises publicadas entre 2023 e 2025 encontraram frações mensuráveis e crescentes de texto gerado por IA em fóruns, mídia social e agregadores de notícias, com alguns domínios de conteúdo mostrando saturação particularmente alta. Se não for abordado, futuras execuções de treinamento arriscam contaminação sistemática, produzindo modelos com capacidade reduzida e diversidade de saída mesmo se pontuações de benchmark em tarefas comuns permanecerem estáveis.

Pesquisadores estão explorando várias mitigações: adicionar watermark a conteúdo gerado por IA para que possa ser filtrado de futuros conjuntos de treinamento, manter corpora curados de alta qualidade com autoria humana, e desenvolver estratégias de mistura de dados que preservem exemplos raros. A partir de 2026, nenhuma organização de treinamento anunciou uma solução completa; o problema é amplamente considerado como um dos riscos estruturais de longo prazo primários para a qualidade dos modelos de fundação.

Exemplo

“Uma pequena empresa de geração de imagens retreina seu modelo principalmente em suas próprias saídas anteriores para reduzir custos de coleta de dados; após três ciclos de treinamento deste tipo, usuários observam que o modelo produz composições de paisagem quase idênticas independentemente da variação de prompt—uma instância clássica de colapso de modelo.