RSI vira a nova meta dos laboratórios de IA, mas sua definição segue nebulosa

A automelhoria recursiva está rapidamente tirando a AGI da pauta dos laboratórios de IA. O conceito continua tão nebuloso e escorregadio quanto seu antecessor.

O que é RSI

RSI (Recursive Self-Improvement) é a capacidade hipotética de um sistema de IA analisar e melhorar o próprio código sem intervenção humana. O sistema fica cada vez mais poderoso e capaz, até chegar a um ponto em que a humanidade não consegue mais controlá-lo nem entender o que exatamente aconteceu.

Na teoria, parece simples e lógico: melhorar significa trabalhar mais rápido, com mais precisão, eficiência e confiabilidade. Na prática, é extremamente difícil dizer se o sistema realmente melhorou ou apenas ficou mais confiante em suas capacidades. Como distinguir progresso de verdade de uma ilusão de progresso? Quem verifica?

Por que a AGI está cedendo lugar à RSI

Há alguns anos, a AGI parecia o desfecho inevitável do desenvolvimento da IA: uma inteligência artificial geral, semelhante à humana e universal, capaz de resolver qualquer tarefa no nível de uma pessoa ou acima. Mas a definição era nítida demais e inalcançável, como um horizonte. Década após década, a AGI foi sendo empurrada para o futuro.

A RSI propõe outro caminho. Não é preciso esperar pela AGI; basta que o sistema aprenda a se melhorar sozinho. É uma meta intermediária que parece ao mesmo tempo mais realista e, para investidores e políticos, mais assustadora.

As vantagens da RSI são óbvias:

• Uma meta intermediária mais realista que a AGI
• É mais fácil convencer investidores de que o projeto é viável
• Não exige esperar mais duas ou três décadas
• Dá para começar já, com pequenos passos de automelhoria
• Parece menos ameaçadora que a AGI

É por isso que até laboratórios conservadores passaram a adotar a RSI em seus planos de longo prazo e em declarações públicas.

O problema da definição (que ninguém resolve)

Tudo pareceria simples e claro. Mas é aí que os problemas começam. Um pesquisador fala de automelhoria por meio da otimização dos pesos da rede neural. Outro se refere à depuração automática de código e à correção de erros. Um terceiro, à reconstrução completa da arquitetura do modelo. Um quarto diz apenas que o sistema fica melhor na sua tarefa principal.

Todos têm razão, mas cada um fala de coisas totalmente diferentes. E todos usam a mesma palavra: RSI.

"Cada um entende uma coisa diferente por RSI.

É exatamente o que acontecia com a AGI dez anos atrás: um risco existencial de algo que ninguém consegue definir."

Quando a definição é nebulosa, fica impossível estabelecer metas concretas, medir progresso ou até avaliar o risco real. Os laboratórios falam da RSI como se fosse um único objetivo e uma única linha de chegada, quando na verdade são dez projetos diferentes com o mesmo nome.

O que isso significa

A RSI não é má intenção nem conspiração, mas um sinal honesto de que os laboratórios de IA precisam de um marco intermediário entre os LLMs de hoje e a AGI filosófica. A história se repete: quando uma meta indefinida (a AGI) se torna inalcançável, nasce outra (a RSI). A pergunta continua a mesma: como medir algo que não está definido? Como gerenciar os riscos de algo que pode significar qualquer ação?

Por enquanto, não há resposta melhor. Enquanto isso, os laboratórios falam da RSI como se já fosse um problema resolvido.