Agentes LLM construíram em 20 dias uma IA para Hearthstone Battlegrounds mais forte que os 10 melhores jogadores

Pesquisadores da MCG-NJU (Changlian Ma e Limin Wang) resolveram testar no que os agentes LLM são realmente melhores: jogar ou construir. A resposta foi inequívoca. O sistema deles, o AutoTavern, passou 20 dias montando um simulador completo de Hearthstone Battlegrounds e treinando sobre ele um agente, o TavernAgent, que depois superou os dez jogadores humanos mais fortes do servidor na ladder em tempo real. O rating subiu de 6.000 para cerca de 15.000 MMR, e nas últimas 20 partidas o bot teve posição média de 1,60, com 80% de vitórias.

Battlegrounds é um ambiente pesado para IA: oito jogadores, lojas e combates aleatórios, informação oculta e quase mil cartas interagindo entre si. Foi exatamente por isso que os autores escolheram o jogo como teste para agentes "de pesquisa" capazes de levar um problema complexo de dados brutos até um sistema que se equipara a humanos.

Uma fábrica de pesquisa, não um jogador

O AutoTavern funciona como um sistema de pesquisa auto-aperfeiçoável. Agentes LLM especializados compartilham uma memória de pesquisa tipada comum, cada afirmação passa por portões de verificação, e as partidas reais fecham o ciclo de feedback. No fim, os agentes melhoram o simulador, os oponentes e a política, além de refinar o próprio processo de pesquisa. O humano define objetivos e estabelece regras para mecânicas ambíguas, atuando como árbitro, não como desenvolvedor.

O primeiro resultado foi o TavernGym, que os autores descrevem como a primeira réplica precisa e reproduzível do jogo real, com todo o conteúdo. Sobre essa base, os agentes lançaram 23 versões do TavernAgent. Ele é treinado via PPO contra oponentes calibrados a partir de partidas reais, e joga partidas completas na ladder de forma totalmente autônoma.

Os números contra humanos e contra LLMs

Pela métrica do ranking público, o TavernAgent apresenta posição média de 1,60 e 80% de primeiros lugares nas últimas 20 partidas registradas. Os dez jogadores de maior rating do servidor registram 2,34 e 59%, respectivamente. O bot vence em todas as estatísticas.

Para comparar com modelos de linguagem, os autores criaram o TavernBench: 960 tarefas em 40 cenários. Principais resultados:

• o TavernAgent resolve 91% das tarefas de jogo, contra no máximo 63% das melhores LLMs de ponta;
• o tempo de resolução do TavernAgent é de 0,03 s, contra até 26 s nas LLMs;
• dentro do segundo disponível para uma jogada em tempo real, o TavernAgent mantém 90% da qualidade, enquanto nenhuma LLM passa de 26%;
• rating na ladder: de 6.000 para cerca de 15.000;
• posição média: 1,60 contra 2,34 do top 10 do servidor;
• percentual de primeiros lugares: 80% contra 59%;
• volume de trabalho: 20 dias, 23 versões do agente.

Os autores são diretos na conclusão: agentes LLM são muito melhores construindo do que jogando. Um modelo de linguagem que precisa de dezenas de segundos para pensar uma jogada perde para uma política pequena e especializada, criada por ele mesmo ou por seus pares.

O que levar daqui

A principal lição prática: não vale a pena forçar uma LLM a tomar cada decisão de jogo. É muito mais eficiente usá-la como engenheira — que constrói o ambiente, verifica as regras, treina um modelo compacto e o melhora iterativamente com dados reais. A mesma lógica vale para qualquer tarefa com restrições rígidas de latência: trading, logística, robótica, simulação.

Segundo: os portões de verificação e a memória tipada compartilhada parecem uma receita eficaz para ciclos longos de pesquisa autônoma. Sem verificação de afirmações, os agentes acumulam erros rapidamente, e aqui um simulador preciso foi a base para tudo o resto.

Terceiro: o código do TavernGym e o benchmark TavernBench são abertos no GitHub (MCG-NJU/AutoTavern). Isso dá à comunidade um ambiente de testes reproduzível para avaliar sistemas agênticos em um jogo definido por informação oculta e aleatoriedade. Vale lembrar que os resultados se referem a um único jogo e são reportados pelos próprios autores, e que um humano no ciclo ainda resolvia questões disputadas sobre mecânicas. Mas ir de zero a superar os melhores jogadores do servidor em 20 dias mostra para onde a automação da pesquisa aplicada está caminhando.