Cohere propõe resolver o caos dos agentes: seleção competitiva em vez de proibições

A proliferação de agentes de IA nas empresas se tornou um problema não técnico, mas de gestão. Quando cada equipe consegue criar e implantar seu próprio agente em uma hora, a experimentação dispara, mas surge o caos: dezenas de soluções parecidas, duplicação de funções, perda de visibilidade sobre dados e acessos. A Cohere chama esse estado de agent sprawl e propõe não proibir a duplicação, mas sim forçar os agentes concorrentes a comprovar seu valor.

Por que a proliferação de agentes é normal

O desenvolvimento descentralizado de agentes tem vantagens diretas. As pessoas que trabalham com um processo veem melhor onde é possível automatizá-lo do que uma equipe central conseguiria. Quando um agente útil se torna reutilizável, a solução criada por uma equipe acaba beneficiando outras. No nível da empresa, o aumento no número de agentes pode ser um sinal de trabalho ativo com novas ideias e busca por aplicações para a IA.

Uma observação importante: mais agentes não significa necessariamente mais gastos com tokens. Um agente não utilizado não consome tokens. O problema surge quando o sistema de gestão dos agentes fica atrás do crescimento no número deles.

Três modelos de gestão de agentes

Na prática, as empresas escolhem uma de três abordagens:

Controle centralizado — uma equipe central de IA ou engenharia desenvolve e gerencia todos os agentes. A vantagem está no controle, a desvantagem é o freio nas inovações.

Abordagem federada — as unidades de negócio e equipes desenvolvem seus próprios agentes de forma independente, enquanto a função central fornece infraestrutura e padrões. Mais flexibilidade, porém mais difícil de gerenciar.

Gestão híbrida — o centro e as unidades de negócio dividem a responsabilidade pelo desenvolvimento e pelas operações, seguindo padrões comuns.

Quase todos os modelos usam agent registries — registros de agentes que rastreiam proprietário, uso, permissões de acesso e ajudam os funcionários a encontrar soluções já existentes. A lógica de priorizar a reutilização em vez de criar algo novo é óbvia: menos agentes para monitorar, menos custo de gestão, menos riscos relacionados ao acesso a dados.

Mas essa lógica escondo uma armadilha: se já existe um agente funcionando, a empresa proíbe a construção de alternativas, mesmo que uma equipe tenha certeza de que pode criar uma solução mais barata, mais confiável ou mais especializada. Com isso, a empresa perde a chance de melhorar.

Seleção competitiva em vez de proibições

A Cohere propõe um caminho fundamentalmente diferente: permitir a duplicação, mas torná-la condicional.

Se uma equipe tem motivos sólidos para acreditar que pode melhorar o agente existente (incumbent), ela recebe permissão para criar uma variante concorrente (challenger). Mas a sobrevivência do campeão depende dos resultados: ele vai vencer em uma comparação direta baseada em métricas?

O processo exige uma comparação limitada no tempo e baseada em fatos. As métricas dependem da tarefa, mas incluem confiabilidade, uso de tokens, latência e qualidade das saídas.

Após acumular dados suficientes, a organização escolhe: substituir o incumbent pelo challenger, encerrar o challenger, ou manter os dois (caso sejam melhores em subtarefas diferentes).

Exemplo: um banco repensa memorandos de crédito

A divisão comercial de um banco usa um agente que elabora memorandos de crédito para gerentes de relacionamento. Uma equipe que trabalha com revisões anuais planejadas cria uma alternativa: menos parâmetros, mais barata, além de uma verificação adicional dos números em relação aos documentos originais.

Durante 30 dias, os dois agentes operam em paralelo. O banco faz a comparação com base em quatro métricas: qual porcentagem dos números está corretamente vinculada aos documentos originais, com que intensidade os analistas de crédito editam cada versão, o custo em tokens por memorando e o tempo até a primeira versão do rascunho.

Se o challenger vence em qualidade com economia significativa, ele substitui o incumbent. Se perde sem vantagens que compensem, é encerrado. Se vence apenas nas revisões planejadas, os dois agentes permanecem, cada um em seu papel.

A chave da abordagem é permitir a duplicação para experimentação, mas acrescentar uma pressão pela seleção. Assim, as empresas preservam a velocidade de inovação sem cair no sprawl.