Habr AI: oito reclamações típicas sobre redes neurais, de alucinações a falhas de agentes

O Habr AI publicou uma análise incomum da experiência de usuários com redes neurais: ao longo de um ano e meio a dois anos, a autora coletou reclamações de chats especializados no Telegram e as reuniu em oito grupos recorrentes. O resultado não é um trabalho acadêmico, mas um mapa vivo de onde os LLMs prejudicam fluxos de trabalho, orçamento e paciência.

Como as pessoas brigam com a IA

A principal observação do texto é humana, não técnica. Os usuários xingam os modelos como se discutissem não com um programa, mas com um colega: as redes neurais "mentem", "fazem corpo mole", "fazem gaslighting", "não ouvem" e "se metem onde não devem". A autora observa que quase ninguém reage assim a softwares comuns. Essa humanização muda também as expectativas: espera-se do modelo compreensão de contexto, memória e bom senso, embora por dentro ele apenas preveja o próximo token e não tenha uma imagem completa do mundo.

"Os modelos aprenderam com a gente, agora a gente aprende com eles."

Disso nasce a segunda parte do problema. Quanto mais amigável e empática soa a interface, mais fácil é o usuário relaxar, confiar demais no modelo e até transferir para ele hábitos da conversa com pessoas. Daí as fortes oscilações emocionais: hoje a rede neural economiza tempo e parece um assistente quase perfeito; amanhã estraga a tarefa com uma iniciativa desnecessária. No artigo, isso aparece como experiência em massa dos usuários, não como exceções raras.

Onde os modelos desmoronam

O maior grupo de reclamações está ligado a erros cometidos com confiança. O modelo pode dar uma resposta concreta e plausível mesmo onde lhe faltam dados e, em conversas longas, ainda confundir projetos, documentos e instruções antigas. A autora destaca separadamente o custo: até os planos "ilimitados" têm limites ocultos, e o consumo de tokens é difícil de prever. Com isso, as redes neurais economizam tempo e, ao mesmo tempo, criam um novo risco operacional difícil de calcular com antecedência.

• Alucinações confiantes (~32%) — o modelo gera uma resposta provável em vez de extrair um fato de uma base, por isso inventa detalhes com facilidade.
• Excesso de iniciativa (~13%) — a vontade de ser útil leva o sistema a fazer mais do que foi pedido, incluindo ações perigosas.
• Problemas de memória (~11%) — chats longos perdem o meio do contexto, e dados de documentos e mensagens anteriores se misturam.
• Agentes e vibe coding (~10–12%) — em tarefas grandes e bases de código os erros se acumulam, e um resultado bonito rapidamente vira caos.
• Dinheiro e efeitos comportamentais (~7–8%) — os limites mudam, os tokens são consumidos de forma irregular e os usuários se apegam mais aos modelos.

A conclusão prática da autora é bem pé no chão: confiar menos na "compreensão mágica" e construir com mais frequência apoios externos em torno do modelo. Isso significa chats curtos e objetivos, documentos em Markdown relidos a cada vez, retrieval em vez de geração pura, temperatura baixa para dados factuais e revisão humana obrigatória onde um erro possa custar dinheiro, dados, tempo da equipe ou reputação. Caso contrário, cada nova sessão vai reinventar as regras de trabalho do zero.

Por que o modo agente irrita

Um bloco à parte trata de agentes e vibe coding, e é aqui que o tom do artigo fica mais duro. A ideia de dividir o trabalho entre um "arquiteto", um "programador" e um "testador" muitas vezes tem efeito contrário na prática: cada agente vê apenas seu pedaço do contexto, as decisões divergem e os erros da etapa anterior são repassados automaticamente. Para tarefas independentes essa abordagem ainda funciona, mas no desenvolvimento, onde tudo está ligado a tudo, as perdas de coordenação facilmente consomem a velocidade prometida.

Daí um conjunto de regras de proteção: modo somente leitura para análise, approval gates antes de qualquer ação perigosa, backups, proibições explícitas de exclusão e documentação comum do projeto para todos os participantes.

A mesma lógica vale para o uso cotidiano de chatbots. Se o usuário passa a ver o modelo como um interlocutor "seu", entrega mais rápido anotações, e-mail, chaves e documentos internos. O problema não é que a IA realmente entenda a pessoa, e sim que ela imita essa compreensão de forma muito convincente.

O que isso significa

O texto do Habr AI é útil porque tira a conversa sobre IA do modo de deslumbramento e a leva para o modo de operação. A ideia central é simples: as redes neurais já são uma ferramenta de trabalho, mas devem ser tratadas não como um colega inteligente, e sim como um sistema poderoso, instável e por vezes caro, que precisa o tempo todo de limites, documentação, controle de acesso e revisão humana. É isso que separa uma stack de trabalho de um brinquedo perigoso.