Habr AI: continuidade de contexto pode virar uma nova camada de eficiência dos sistemas de IA

O Habr AI publicou um texto defendendo que o próximo ganho de qualidade da IA pode vir não de uma janela de contexto ainda maior, mas da capacidade de manter a continuidade de trabalho entre etapas. Os autores chamam isso de continuidade de contexto e propõem tratá-la como um modo operacional, não como um volume de memória.

Por que um prompt não basta

A ideia central do artigo é simples: um bom prompt pode gerar uma boa resposta, mas não garante que, uma etapa depois, uma hora depois ou em uma nova sessão, o modelo se comporte da mesma forma. Em trechos curtos isso quase não se nota. Mas quando a tarefa se estende por 10–20 etapas, o crítico deixa de ser a qualidade de uma resposta e passa a ser a capacidade do sistema de manter o objetivo, as restrições, as decisões tomadas e as regras para lidar com premissas. É aí que um chat longo e uma grande janela de contexto deixam de ser sinônimos de confiabilidade.

Os autores propõem separar quatro coisas: janela de contexto, memória de fatos, prompt de sistema e continuidade de contexto. As três primeiras ajudam o modelo a lembrar texto, regras e informações de referência. Mas não resolvem o problema da reprodutibilidade do comportamento em longas distâncias. Se o sistema não sabe verificar a viabilidade da tarefa antes de gerar, não fixa os limites dos dados de entrada e não sabe voltar ao modo de trabalho após uma falha, o usuário precisa remontar manualmente o quadro de trabalho a cada vez.

"A continuidade não serve para memória de fatos, mas para memória de decisões."

Duas falhas reveladoras

O primeiro teste do artigo trata da palavra russa para "engajamento" (vovlechyonnost). O modelo recebeu uma tarefa formalizada e depois foi instruído a entregar dez sinônimos estritos. Formalmente, cumpriu o requisito do contador, mas a resposta foi fraca no conteúdo: apareceram repetições, flexões da mesma palavra e deslocamentos de sentido. O ponto-chave não é o erro em si, mas o fato de o modelo não ter acionado antes uma verificação preflight. Antes de gerar, ele deveria ter dito que dez sinônimos totalmente equivalentes, sem perda de sentido, dificilmente seriam alcançáveis ali, e proposto uma decomposição mais honesta da resposta.

O segundo teste mostra um tipo de falha mais perigoso. O modelo recebeu um exemplo incompleto de descrição de cargo, com apenas a seção de atribuições. Em vez de fixar os limites da entrada, o sistema passou a completar as partes ausentes conforme o cânone do gênero e, por algum tempo, agiu como se essas seções realmente estivessem no arquivo original. Esse tipo de falha parece convincente e, por isso, é especialmente arriscado: o usuário não recebe uma alucinação explícita, mas uma reconstrução plausível, em que uma suposição se disfarça de fato.

Um miniprotocolo de trabalho

Como resposta prática, os autores propõem não um "megaprompt", mas um padrão mínimo de trabalho prolongado. A ideia é que o sistema carregue entre as etapas não o diálogo inteiro, mas um mínimo operacional: objetivo, invariantes, decisões tomadas, política de premissas, estrutura esperada do resultado e regras de recuperação após falhas. O artigo descreve isso tanto como protocolo de interação quanto como parte da lógica da plataforma.

• Scope check — antes de gerar, o sistema verifica se os dados bastam e registra explicitamente o que há e o que não há na entrada.
• Assumption marking — se algo falta, o modelo sinaliza antecipadamente o que pretende completar por padrão.
• Stop-the-line / recovery — em caso de desvio ou conflito de requisitos, o sistema não continua automaticamente: ele para, diagnostica o problema e propõe um caminho de volta ao último estado válido.
• Registro de decisões — os acordos já feitos são mantidos entre as etapas, para que a próxima resposta não os redefina silenciosamente.

Separadamente, os autores descrevem seu módulo PSM, que fixa modos de trabalho bem-sucedidos como padrões transferíveis. A ideia é guardar não todo o rastro da conversa, mas apenas o que de fato torna uma série de tarefas reproduzível: invariantes, decisões, regras de premissas e esquema de saída. Assim, o processo pode continuar após pausas, trocas entre artefatos e até após falhas de ferramentas, sem recomeçar do zero.

O que isso significa

O material do Habr AI toca um problema real do uso corporativo de IA: as empresas não precisam apenas de um interlocutor inteligente, mas de um sistema que funcione de forma estável de etapa em etapa. Se a ideia de continuidade de contexto pegar em produtos e pipelines de agentes, a próxima vantagem competitiva não será o tamanho máximo do chat, mas a capacidade de preservar decisões, marcar premissas com honestidade e se recuperar sem reinicializar todo o processo.