Habr AI Explica Por Que LLMs Não Calculam, Não Aprendem no Diálogo e Dependem de Ferramentas

Um artigo no Habr AI desfaz o mito popular de que um chatbot moderno já é, por si só, uma inteligência universal. A tese principal do autor é simples: um LLM básico, por sua natureza, só consegue trabalhar com texto — aceitar uma requisição textual e gerar uma resposta textual. Tudo mais que um usuário percebe como as "habilidades mágicas" do modelo é geralmente fornecido por ferramentas externas, integrações e orquestração. É por isso que as mesmas interfaces podem desenhar imagens, buscar na internet e calcular números, embora o próprio modelo de linguagem não se torne um artista, um mecanismo de busca ou uma calculadora por isso.

O primeiro equívoco está ligado à sensação de que um LLM "consegue fazer tudo". Se você pedir para criar uma imagem, ele formula uma requisição para um modelo de geração separado. Se você conversar com ele por voz, reconhecimento de fala e síntese de voz estão envolvidos na cadeia.

Se você precisa de cálculo preciso, resultados confiáveis geralmente aparecem apenas após chamar um interpretador de código ou outra ferramenta computacional. Sem essas camadas adicionais, um LLM se baseia na reprodução probabilística de padrões do treinamento: ele pode resolver corretamente um exemplo simples, mas em números longos, fórmulas e tarefas que exigem alta precisão facilmente erra. Disso decorre uma fronteira prática importante: a força do modelo não é a matemática como tal, mas a descrição textual da tarefa e a seleção da ferramenta apropriada.

O segundo mito é que o modelo aprende durante a conversa. O autor nos lembra que inferência e treinamento são dois processos diferentes. Quando um usuário escreve uma requisição, o modelo gera sequencialmente tokens com base em pesos já fixos, e os próprios pesos não mudam naquele momento.

Isso significa que um LLM específico em uma sessão específica não "aprende uma lição" e não fica mais inteligente pela observação de um usuário. Sim, provedores podem depois usar diálogos anonimizados para treinar futuras versões, mas isso já é um ciclo de ajuste fino separado, não atualização mágica na conversa. Disso também segue outra conclusão: memória de usuário entre diálogos geralmente não é treinamento de modelo, mas contexto salvo que é então misturado de novo na requisição.

O artigo então explica brevemente do que é composto um LLM público. Em seu núcleo está um transformer que vê todo o contexto disponível de uma vez e constrói uma resposta como uma sequência de tokens prováveis, mantendo a coerência geral do texto através de padrões aprendidos. No topo disso funciona RLHF — ajuste para formato de assistente, polidez, cumprimento de instruções e restrições de segurança.

Mas RLHF não transforma o modelo em uma máquina lógica e não corrige fraquezas fundamentais. Portanto, modelos de linguagem são bons em análise de texto, resumo, mudança de estilo, instruções passo a passo, trabalho com formatos como JSON e seleção de ferramentas. São fracos em computação precisa, processamento de tabelas grandes, manutenção de enormes volumes de dados em contexto e conhecimento do estado atual do mundo após a data de treinamento.

A isso acrescente a natureza probabilística da resposta, sensibilidade à formulação do prompt e risco de alucinações.

Para tornar um LLM útil em produção, uma camada adicional é construída ao seu redor. Para conhecimento estático, RAG é usado: documentos são divididos em fragmentos, partes semanticamente próximas são encontradas por requisição, e o modelo recebe apenas contexto relevante. Para dados dinâmicos e ações, function calling é aplicado: o LLM decide quando chamar uma API, banco de dados, calculadora ou simulação, e o orquestrador valida chamadas, adiciona respostas de ferramentas ao histórico e gerencia todo o ciclo. O mesmo orquestrador lida com memória de diálogo, prompts de sistema, validação de formato de saída e lançamento de subagentes.

Nessa base surgem conceitos mais ambiciosos — agentes de IA, funcionários digitais, copilots e gêmeos digitais. Em essência, isso não é magia separada, mas combinações de LLMs, bases de conhecimento, APIs, automação e motores computacionais clássicos. Isso significa que discutir "inteligência artificial" sem distinguir tecnologias já não é suficiente.

Se um negócio precisa de cálculo preciso, automação rigorosa ou previsão em dados estruturados, um LLM sozinho não é suficiente. Se trabalho com e-mails, documentos, instruções, busca por conhecimento e interface de diálogo para um sistema complexo é necessário, um LLM realmente oferece um impulso forte. A perspectiva sóbria do artigo é útil precisamente porque remove expectativas excessivas: não há necessidade de atribuir habilidades sobre-humanas a um modelo de linguagem, mas também não vale a pena subestimá-lo como interface e coordenador de outras ferramentas.