MIT Technology Review: estamos prontos para dar poder real a agentes de IA?

A redação da MIT Technology Review lançou um eBook fechado com uma pergunta provocativa: estamos prontos para entregar a agentes de IA poder real sobre tarefas, dados, processos de negócio e, em última instância, sobre as consequências de suas ações? A coletânea reúne a opinião de especialistas de peso e se tornou um dos materiais mais citados da publicação neste ano.

Agentes não esperam mais por comandos

Agentes de IA deixaram de ser um conceito de relatórios de laboratório. OpenAI, Anthropic, Google, Microsoft e dezenas de startups lançaram sistemas que usam o navegador por conta própria, escrevem e executam código, gerenciam arquivos, enviam e-mails e interagem com serviços externos, sem confirmação explícita de cada etapa.

O agente não espera mais por um comando. Ele recebe um objetivo e avança em direção a ele, tomando decisões intermediárias por conta própria. Essa mudança altera a própria natureza da relação entre as pessoas e o software: deixamos de ser operadores de interface e passamos a delegar responsabilidade.

Já há exemplos em produção: o Operator, da OpenAI, reserva restaurantes e preenche formulários; o Claude Computer Use controla aplicativos no desktop; e o Google Gemini executa de forma autônoma cadeias de tarefas no Workspace. Não é modo de demonstração: os agentes conduzem processos reais em organizações reais.

O que dizem os especialistas

É exatamente esse o tema que o eBook da MIT Technology Review explora, com a participação de especialistas de ponta em segurança, ética e desenvolvimento de IA. Uma das teses centrais citadas pela publicação:

"Se continuarmos pelo caminho atual, estamos basicamente jogando

roleta-russa com a humanidade".

Não é trecho de romance distópico, e sim a posição de pesquisadores em atividade que lidam diariamente com sistemas agênticos. Eles destacam algumas categorias concretas de risco:

• Perda de rastreabilidade: em cenários multiagente, é difícil estabelecer quem tomou cada decisão intermediária
• Opacidade: ao delegar tarefas complexas, a pessoa muitas vezes não entende por que o agente escolheu aquele caminho
• Erros de alto risco: transações financeiras, recomendações médicas, documentos jurídicos
• Prompt injection: agentes que trabalham com dados externos podem ser manipulados por meio desses mesmos dados
• Falta de padrões: ainda não existem requisitos setoriais unificados de segurança para arquiteturas agênticas

Entre velocidade e cautela

As empresas reagem a esses desafios de maneiras diferentes. Algumas, sobretudo a Anthropic, apostam em mecanismos de controle em várias camadas, restrições constitucionais para os modelos e no princípio human-in-the-loop para decisões críticas. Outras sacrificam a cautela em nome da velocidade de chegada ao mercado: os concorrentes não esperam, ainda não houve um grande fracasso público, e isso por si só é uma situação perigosa.

Reguladores nos EUA e na União Europeia estão só começando a formar uma posição sobre sistemas agênticos. O AI Act europeu cobre parcialmente usos de alto risco, mas ainda não regula explicitamente as arquiteturas agênticas como uma classe separada. Enquanto os legisladores refinam a terminologia, os produtos já funcionam em empresas reais e conduzem processos reais, muitas vezes sem uma política clara de responsabilização.

O que isso significa

Estamos entrando numa fase em que agentes de IA recebem poder real antes que a sociedade defina as regras do jogo e que as empresas estabeleçam padrões de implantação segura. As questões que a MIT Technology Review levanta no eBook não são um debate acadêmico. São uma pauta que equipes de produto, departamentos jurídicos e executivos que decidem sobre automação já enfrentam hoje.

E a resposta à pergunta "estamos prontos?" depende em boa parte de quão a sério a indústria leva os alertas dos próprios especialistas.