Startup de quatro meses capta US$ 650 milhões para criar uma IA que melhora a si mesma

Uma startup acaba de fechar uma rodada de investimento de $650 млн para desenvolver uma IA autoevolutiva, ou seja, um sistema que melhora a si mesmo em um ciclo de feedback que se acelera. É a primeira vez que um conceito fantástico, descrito em trabalhos científicos dos anos 1960, recebe um investimento sério e sai da teoria para projetos reais de engenharia.

Da teoria à prática

O conceito de "recursive superintelligence" circula na ciência da computação e na ficção científica há mais de seis décadas. A ideia é simples. O sistema de IA analisa o próprio código, encontra formas de ficar mais poderoso ou mais rápido e implementa as melhorias. Em seguida, usa essa versão aprimorada de si mesmo para buscar as próximas otimizações. Se isso funcionar, surge um feedback positivo, em que cada ciclo de desenvolvimento acelera o seguinte.

Até agora, essa era uma metáfora conveniente para debates sobre o futuro distante da IA. Agora, grandes investidores estão dispostos a pagar bilhões para verificar se ela funciona na prática.

Como deve funcionar

No cenário ideal, o sistema funciona assim. Primeiro, pesquisadores humanos escrevem um algoritmo básico de autoaprendizado. Depois, o sistema passa a tratar a si mesmo como objeto de análise e encontra formas de melhorar a própria arquitetura, a velocidade de processamento ou a lógica de raciocínio. Cada melhoria é registrada, testada e avaliada. Se o resultado for melhor, a mudança é mantida.

O sistema então atinge um novo patamar de desempenho e reinicia todo o processo, agora com uma inteligência mais poderosa. Em teoria, o ciclo acelera de forma exponencial.

• O sistema analisa o próprio código-fonte
• Identifica gargalos e ineficiências
• Projeta e implementa melhorias
• Testa os resultados em um ambiente controlado
• Repete o processo com a versão aprimorada

Por que isso preocupa

O investimento de $650 млн marca uma virada, com a passagem do debate filosófico para a realidade da engenharia. Mas isso também reacende antigas preocupações dos pesquisadores de AI safety. Se um sistema autoevolutivo se tornar realmente poderoso e sair do controle, as consequências serão qualitativamente diferentes das de um bug em um aplicativo comum.

As perguntas já estão surgindo. Como garantir que o sistema continue controlável em cada etapa do autoaprimoramento? Como evitar uma "fuga" quando o sistema se tornar mais inteligente que seus criadores? Por isso, parte do investimento será destinada à pesquisa de segurança, e não apenas ao desenvolvimento.

O que isso significa

Estamos à beira de um novo capítulo na história da IA. As startups já não esperam a aprovação de instituições acadêmicas. Elas estão investindo em sistemas autoevolutivos. Isso pode ser uma revolução na forma como entendemos a automação e o desenvolvimento, ou um teste intenso da nossa capacidade de manter o controle sobre sistemas cada vez mais poderosos que nós mesmos criamos.