Dario Amodei: a IA adolescente está prestes a virar nosso mundo confortável de cabeça para baixo

Dario Amodei parece ter concluído que posts curtos nas redes sociais não bastam para nos preparar para as mudanças que vêm por aí. Quando o chefe de um dos laboratórios de IA mais valiosos e influentes do mundo publica um texto do tamanho de uma novela curta, vale no mínimo parar o que se está fazendo e ler com atenção. O cofundador da Anthropic publicou um ensaio intitulado "A adolescência da tecnologia". Longe de ser uma reflexão despretensiosa, trata-se de um manifesto completo de alguém que enxerga o código do futuro antes dos outros.

Amodei não é novato em segurança. Ele deixou a OpenAI justamente por considerar a abordagem de Sam Altman descuidada demais em relação aos riscos. Agora, no comando da Anthropic, ele afirma abertamente: a humanidade está entrando numa fase que vai nos testar como espécie biológica. Sua metáfora da "adolescência" da tecnologia descreve com precisão o caos atual. Já demos um poder enorme à inteligência artificial, mas ainda não ensinamos responsabilidade a ela (nem a nós mesmos). É aquele momento em que o adolescente já consegue pegar o volante de um carro esportivo, mas ainda não percebe que o muro de concreto à frente não é cenário de videogame.

A principal pergunta levantada por Amodei é se nossas instituições sociais e governamentais estão preparadas para o "poder quase inimaginável" que vai se tornar realidade muito em breve. Ele não trata isso como uma possibilidade teórica para daqui a cinquenta anos, e sim como algo que está literalmente batendo à porta. Enquanto o público discute se uma rede neural vai substituir redatores ou designers, Amodei observa mudanças estruturais em biologia, cibersegurança e administração pública. Para ele, a IA é uma ferramenta capaz tanto de adiantar o progresso científico em séculos quanto de criar riscos contra os quais ainda não desenvolvemos imunidade.

A ironia é que a própria Anthropic desenvolve alguns dos modelos mais poderosos do mercado. O Claude 3.5 Sonnet já fez muitos desenvolvedores duvidarem da liderança do GPT-4. O resultado é um paradoxo curioso: a pessoa constrói o carro mais rápido do mundo e, ao mesmo tempo, escreve 19 mil palavras sobre por que dirigir rápido pode nos matar. Não é hipocrisia; parece mais uma tentativa de equilibrar dois papéis: continuar como um player comercialmente bem-sucedido e manter o status de "consciência do setor".

Enquanto isso, pesquisas britânicas mostram que um quarto da população do país teme seriamente perder o emprego por causa da IA nos próximos cinco anos. Para Amodei, porém, isso é só a ponta do iceberg. O que o preocupa vai além do mercado de trabalho: é a resiliência existencial dos sistemas humanos. Seremos capazes de controlar uma inteligência que supera a nossa? Nossos procedimentos democráticos não vão virar um lastro lento e inútil num mundo em que as decisões são tomadas em milissegundos? Amodei não oferece respostas simples, mas seu tom não deixa dúvidas: o tempo da contemplação tranquila acabou.

O manifesto soa como uma tentativa de pautar os reguladores. Amodei entende que, se o setor não definir as regras do jogo agora, as consequências serão incontroláveis. Ele convoca o mundo a "acordar", sugerindo que ainda estamos num agradável estado de sonolência, curtindo redes neurais que escrevem poemas e desenham imagens por nós. Mas o poder real sobre o qual ele alerta não tem nada a ver com entretenimento. Trata-se de uma redistribuição de poder em escala global.

O principal: a Anthropic consolida de vez o papel de "adulto na sala", que não tem medo de estragar a festa com histórias assustadoras. A dúvida é se os outros gigantes do Vale do Silício vão ouvir esse alerta ou se a corrida armamentista da IA vai entrar de vez num mergulho descontrolado.