Corrida por AGI: Hassabis e Amodei disputam a data do fim do mundo familiar

Nas montanhas suíças, onde normalmente se decidem os destinos da economia mundial, desta vez tentaram entender quando essa mesma economia deixará de ser um assunto puramente humano. Em Davos, ocorreu um evento que a indústria há muito esperava: Demis Hassabis do Google DeepMind e Dario Amodei da Anthropic sentaram-se à mesma mesa. O moderador, não economizando páthos, comparou-os aos Beatles e aos Rolling Stones.

A comparação é falha, porque ao contrário das estrelas do rock, esses dois não estão discutindo sobre gráficos, mas tentando calcular a data em que a inteligência artificial se igualará a nós ou nos ultrapassará. O tema foi anunciado ambiciosamente: "O Dia Depois da AGI." Mas antes de planejar o café da manhã em um mundo de superinteligência, precisamos entender quando este amanhecer virá.

O contexto é mais importante aqui do que as palavras em si. Há alguns anos, o termo AGI (inteligência geral artificial) era considerado domínio de nerds e autores de ficção científica. Hoje é um item nas demonstrações financeiras trimestrais das maiores corporações do mundo.

Hassabis, o homem que essencialmente iniciou a onda moderna de IA ao adquirir a DeepMind para o Google, sempre foi um otimista cauteloso. Ele constrói sistemas que jogam Go, predizem estruturas de proteínas e agora tentam raciocinar. Sua visão de AGI é a de uma ferramenta que resolverá problemas em física e biologia.

Para ele, é evolução, ainda que muito rápida. Ele vê nisso uma alavanca poderosa que ajudará a humanidade a lidar com o que nós mesmos não conseguimos.

Dario Amodei da Anthropic joga um jogo diferente. Sua empresa nasceu de uma cisão na OpenAI justamente sobre questões de segurança. Se Hassabis é um engenheiro-pesquisador, então Amodei é um homem que olha para curvas exponenciais e vê nelas não apenas progresso, mas também ameaça. Em Davos, ele relembrou novamente as leis de escala. Despejamos bilhões de dólares em poder computacional, e redes neurais obedientemente ficam mais inteligentes. O problema é que esse crescimento não é linear. Podemos acordar em um mundo onde um modelo da próxima geração de repente exiba capacidades para as quais não estamos preparados—nem legislativamente, nem moralmente. Amodei enfatiza que o ponto de não retorno está mais próximo do que parece para muitos reguladores.

A diferença em suas abordagens expõe o principal conflito da indústria. De um lado—a crença de que conseguiremos controlar o processo e integrar gradualmente a IA na ciência e na vida cotidiana. Do outro—o medo de que o ritmo de desenvolvimento da tecnologia já tenha ultrapassado o ritmo de adaptação das instituições sociais. Quando o moderador perguntou sobre prazos específicos, a tensão pairou no ar. Hassabis aposta no final da década, enquanto Amodei insinua que surpresas podem começar muito mais cedo. E isso não é mera adivinhação. Nessas datas depende para onde fluirão os próximos trilhões de dólares em investimentos e que leis a UE e os EUA passarão nos próximos meses.

Por que isso é importante agora? Porque a era dos chatbots "brinquedos" está terminando. Estamos nos movendo em direção a agentes que podem agir independentemente. Se os líderes de duas empresas que essencialmente têm as chaves para essa tecnologia discordam em sua avaliação dos riscos fundamentais, isso é motivo para reflexão. Estamos em uma situação onde os criadores do motor estão discutindo se a máquina tem freios e onde fica a beira do abismo. A ironia é que ambos continuam pisando no acelerador, porque parar nesta corrida significa perder tudo. A reunião de Davos mostrou que não há consenso nem mesmo no topo, e "o dia depois da AGI" pode chegar repentinamente para todos os participantes do processo.

Ponto principal: Hassabis e Amodei concordam em uma coisa—AGI é inevitável e próxima. Mas se o Google vê nela uma super-assistente para cientistas, então a Anthropic avisa sobre uma mudança tectônica para a qual o mundo não está preparado. Conseguiremos concordar sobre as regras do jogo antes que a IA comece a escrever elas mesma?