A economia da AGI: humanos viram verificadores e as máquinas assumem o trabalho

Falar em singularidade tecnológica deixou há tempos de ser assunto só de autores de ficção científica e de futurólogos com canal no YouTube. Agora, economistas das principais universidades do mundo se dedicam ao tema, e as conclusões deles merecem atenção. Na edição mais recente da newsletter Import AI, uma das fontes mais respeitadas sobre pesquisa em inteligência artificial, o assunto central é um modelo de "economia da AGI" proposto por um grupo de pesquisadores do Instituto de Tecnologia de Massachusetts, da Universidade de Washington em St. Louis e da Universidade da Califórnia em Los Angeles.

O trabalho se resume a uma fórmula simples, mas inquietante: em um mundo onde a inteligência artificial geral vira realidade, a esmagadora maioria do trabalho produtivo passa para as máquinas. O ser humano não sai da equação econômica, mas seu papel muda de forma fundamental. Em vez de criar, as pessoas passam a checar. Em vez de produzir, verificam. Não é apenas a automação de tarefas rotineiras: é uma reestruturação da própria lógica da divisão do trabalho, que existe há milênios.

Por que justamente a verificação? A resposta está na assimetria fundamental entre criar e conferir. Gerar código, redigir um documento jurídico, projetar uma peça: os sistemas de IA já fazem tudo isso com velocidade impressionante. Mas garantir que o resultado esteja correto, seja seguro e atenda às necessidades reais continua exigindo julgamento humano. Os pesquisadores registram o que os profissionais do setor já observam: engenheiros escrevem cada vez menos código do zero e revisam cada vez mais o que o Copilot ou o Claude sugerem. Advogados revisam minutas de contratos feitas por IA em vez de redigi-las. O modelo do MIT e da WashU apenas extrapola essa tendência até o limite lógico.

Só que aí surge um paradoxo que os autores, a julgar pela descrição do trabalho, reconhecem. Verificar é uma habilidade que se forma pela prática de criar. Um cirurgião consegue avaliar a qualidade de uma operação porque já fez milhares. Um programador percebe um bug no código gerado porque passou anos escrevendo código à mão. Se as novas gerações de especialistas entrarem direto no papel de verificadores, sem passar pela etapa de domínio prático profundo, a qualidade da própria verificação vai inevitavelmente se degradar. Isso cria uma espécie de armadilha de competências, sobre a qual economistas e formuladores de políticas deveriam começar a pensar desde já.

A mesma edição da Import AI traz outros dois temas que completam o quadro. O primeiro é o uso de ambientes de jogo gerados proceduralmente para testar sistemas de IA. A ideia é que benchmarks estáticos ficam obsoletos rápido e acabam "decorados" pelos modelos, enquanto cenários de jogo criados dinamicamente permitem avaliar a capacidade real de generalização e adaptação. É uma mudança metodológica importante: a indústria começa a entender que a inteligência de uma máquina deve ser medida não por testes, mas pela capacidade de lidar com o inesperado.

O segundo tema é o conceito de "ecologias de agentes", ou seja, sistemas em que vários agentes de IA autônomos interagem, competem e cooperam. Se a economia da AGI descreve a relação entre humanos e máquinas, as ecologias de agentes descrevem a relação das máquinas entre si. É o próximo nível de complexidade, em que a previsibilidade do comportamento de um agente isolado ainda não garante a previsibilidade do sistema inteiro. Os efeitos emergentes nessas ecologias podem ser tanto produtivos quanto perigosos, e isso é uma ponte direta para as questões de segurança da IA.

Juntos, os três temas formam um quadro coerente e bastante sóbrio. Caminhamos para um mundo em que as máquinas produzem, as pessoas verificam e, entre as máquinas, se formam ecossistemas próprios de interação. Não é utopia nem distopia: é uma nova realidade econômica, cujos contornos já aparecem hoje. A questão não é se ela vai chegar, mas se conseguiremos preparar as instituições, a educação e os marcos regulatórios que permitam às pessoas manter não apenas o emprego, mas uma agência genuína nesse novo mundo. Os pesquisadores do MIT, da WashU e da UCLA, pelo menos, fazem as perguntas certas. As respostas teremos de buscar todos juntos, de preferência antes que a economia da AGI vire fato consumado.