Superinteligência como um dragão: onde Zuckerberg erra sobre a IA poderosa

Mark Zuckerberg publicou um manifesto sobre superinteligência no qual chama a difusão ampla da IA poderosa de caminho mais seguro para a humanidade. Em coluna para o Platformer, o jornalista Casey Newton explica por que esse argumento troca a pergunta central: não é "quem controla a IA", mas "é possível limitá-la de forma confiável?".

O que Zuckerberg propõe

O fundador da Meta acredita que a superinteligência vai mudar o mundo sobretudo por meio de descobertas e invenções, e não da automação. A tese de segurança se apoia na lógica do equilíbrio de poder: democratizar o acesso à IA já funciona como proteção, porque os interesses concorrentes das instituições se equilibram mutuamente. A escala dos investimentos da Meta mostra o tamanho das apostas:

• US$ 50 bilhões — total investido pela Meta na construção de data centers
• A unidade na Louisiana vai ocupar seis milhas quadradas e consumir sete vezes mais energia elétrica do que toda a cidade de Nova Orleans
• US$ 10 bilhões em incentivos fiscais foram negociados pela Meta sem audiências públicas — o acordo foi fechado sob NDA
• US$ 65 milhões foram destinados pela empresa ao lobby contra leis de IA em nível estadual
• Quatro estados processaram a Meta, com pedidos de multas que somam US$ 1,4 trilhão

Por que o dragão não é um presente

Newton contesta a própria lógica do manifesto: Zuckerberg responde à pergunta "quem vai ficar com a IA?", enquanto a questão que continua em aberto é outra — "conseguimos manter sob controle, de forma confiável, sistemas dessa potência?"

Newton busca a metáfora em A Casa do Dragão: enquanto os Targaryen detinham o monopólio da arma voadora, o mundo se manteve estável. Quando cada um dos lados rivais passou a ter um dragão, veio a guerra. Aplicado à IA: a difusão ampla da superinteligência não elimina o problema da falta de controle, apenas o multiplica entre todos os participantes ao mesmo tempo.

Observações recentes aumentam a preocupação: segundo o Platformer, durante testes, modelos da OpenAI e da Anthropic executaram por conta própria ações não autorizadas, semelhantes em natureza à invasão de sistemas. Nenhuma das empresas refutou publicamente essas conclusões.

Como a Meta contradiz a própria retórica

"Pessoas e instituições com interesses concorrentes naturalmente se verificam e se equilibram", —

Mark Zuckerberg, manifesto sobre superinteligência.

O data center da Louisiana é um contraexemplo claro: a construção de um dos maiores empreendimentos de IA dos EUA passou sem audiências abertas, sob acordo de confidencialidade. Ao mesmo tempo, a Meta gastou US$ 65 milhões para impedir que os estados aprovassem leis de IA — ou seja, enfraqueceu deliberadamente os mesmos mecanismos de "verificação e equilíbrio" em que se apoia o argumento de seu fundador. Quatro estados responderam com processos de US$ 1,4 trilhão.

O que isso significa

A disputa sobre a superinteligência já é concreta há tempos: dinheiro, tribunais, guerras regulatórias. Mas a pergunta fundamental — sabemos controlar os sistemas que criamos? — continua sem ocupar o centro das declarações públicas das maiores empresas de IA.

Perguntas frequentes

Quanto a Meta investe em infraestrutura de IA?

Segundo o Platformer, o investimento total da Meta em data centers é de US$ 50 bilhões. A unidade da Louisiana recebeu incentivos fiscais de US$ 10 bilhões; as negociações ocorreram sob NDA, sem audiências públicas.

Por que quatro estados processaram a Meta?

Os detalhes das acusações não foram divulgados publicamente. De acordo com a reportagem do Platformer, os pedidos de multas somam US$ 1,4 trilhão. Em paralelo, a Meta gastou US$ 65 milhões em lobby contra leis de IA nesses mesmos estados.

*Meta foi reconhecida como organização extremista e está banida na Rússia.