Habr AI: oito reclamações típicas sobre modelos de AI — de alucinações a falhas de agentes

No Habr AI, saiu uma análise inusitada da experiência do usuário com redes neurais: a autora coletou, em um ano e meio a dois anos, reclamações de chats especializados no Telegram e as consolidou em oito clusters recorrentes. O resultado não é um trabalho acadêmico, mas um mapa vivo de onde os LLMs quebram fluxos de trabalho, orçamentos e nervos.

Como as Pessoas Discutem com a IA

A principal observação neste texto não é técnica, mas humana. Os usuários criticam modelos como se discutissem não com um programa, mas com um colega: redes neurais "mentem", "são preguiçosas", "fazem gaslighting", "não ouvem" e "ultrapassam limites". A autora nota que software comum quase nunca provoca tal reação. Essa antropomorfização muda expectativas: do modelo, as pessoas esperam compreensão de contexto, memória e senso comum, mesmo que internamente haja apenas predição do próximo token, não uma visão completa do mundo.

"Modelos aprenderam conosco, agora aprendemos com eles."

Daí surge a segunda parte do problema. Quanto mais amigável e empático soa a interface, mais fácil é para o usuário relaxar, começar a confiar excessivamente no modelo e até transferir hábitos de comunicação com pessoas. Isso leva a oscilações emocionais acentuadas: hoje a rede neural economiza tempo e parece uma assistente quase perfeita, amanhã quebra uma tarefa com uma iniciativa desnecessária. No artigo, isso soa como experiência massiva de usuários, não como excessos raros.

Onde os Modelos Falham

O maior cluster de reclamações está relacionado a erros confiantes. Um modelo pode produzir uma resposta específica e plausível mesmo onde faltam dados, e em diálogos longos também confunde projetos, documentos e instruções antigas. A autora destaca separadamente o custo: mesmo planos "ilimitados" têm limites ocultos, e o consumo de tokens é difícil de prever. Como resultado, redes neurais simultaneamente economizam tempo e criam um novo risco operacional difícil de calcular antecipadamente.

• Alucinações confiantes (~32%) — o modelo gera uma resposta provável em vez de recuperar um fato de um banco de dados, então facilmente inventa detalhes.
• Iniciativa excessiva (~13%) — o impulso de ser útil empurra o sistema a fazer mais do que foi pedido, incluindo ações perigosas.
• Problemas de memória (~11%) — chats longos perdem contexto no meio, então dados de documentos e mensagens anteriores começam a se confundir.
• Agentes e vibe coding (~10–12%) — em tarefas grandes e bases de código, erros se acumulam, e um resultado bonito rapidamente vira caos.
• Dinheiro e efeitos comportamentais (~7–8%) — limites mudam, tokens queimam irregularmente, e usuários se apegam mais aos modelos.

A conclusão prática da autora é bem pragmática: confiar menos em "compreensão mágica" e mais frequentemente construir salvaguardas externas ao redor do modelo. Isso significa chats curtos e focados, documentos em Markdown que são relidos do zero, retrieval em vez de geração pura, temperatura baixa para conteúdo factual, e verificação humana obrigatória onde um erro pode custar dinheiro, dados, tempo da equipe ou reputação. Caso contrário, cada nova sessão reinventará as regras de funcionamento.

Por Que Agência é Frustrante

Uma seção separada é dedicada a agentes e vibe coding — e é aqui que o tom do artigo fica mais duro. A ideia de dividir trabalho entre um "arquiteto", "codificador" e "testador" frequentemente tem o efeito oposto na prática: cada agente vê apenas seu pedaço de contexto, decisões entre eles divergem, e erros do passo anterior automaticamente se propagam. Para tarefas independentes, essa abordagem ainda funciona, mas no desenvolvimento, onde tudo está conectado com tudo, custos de coordenação facilmente devoram a velocidade prometida.

Daí o conjunto de regras de proteção: modo somente leitura para análise, portões de aprovação antes de qualquer ação arriscada, backups, proibições explícitas de exclusão, e documentação de projeto compartilhada para todos os participantes do processo. A mesma lógica se aplica a conversas comuns com chatbots. Se um usuário começa a perceber um modelo como seu "próprio" parceiro de conversa, mais rapidamente entrega a ele notas, emails, chaves e documentos internos.

O problema não é que IA realmente compreende humanos, mas que muito convincentemente imita essa compreensão.

O Que Isso Significa

O texto no Habr AI é útil porque desloca a conversa sobre IA do modo de admiração para o modo operacional. A ideia principal é simples: redes neurais já se tornaram uma ferramenta de trabalho, mas devem ser tratadas não como um colega inteligente, mas como um sistema poderoso, instável e às vezes caro que constantemente precisa de salvaguardas, documentação, controle de acesso e verificação humana. É isso que distingue uma stack de trabalho de um brinquedo perigoso.