Alucinações pela norma GOST: por que não se deve confiar uma obra ao ChatGPT

Imagine construir uma casa seguindo os conselhos da pessoa mais lida do mundo, que, porém, sofre de uma forma leve de amnésia e tem tendência a fantasiar. Foi nessa situação que Aleksei Krivonosov, dono de uma construtora, se viu ao decidir delegar ao ChatGPT o trabalho de rotina. No começo, tudo correu perfeitamente. O modelo escrevia com desenvoltura roteiros para o canal da empresa no YouTube, montava planos de conteúdo e dava polimento em relatórios técnicos. É uma armadilha clássica: quando a IA vai muito bem em tarefas criativas, surge a ilusão de que ela é igualmente boa nas ciências exatas. Mas o diabo, como sempre, estava nas normas e regulamentos de construção.

O problema apareceu quando o ChatGPT recebeu a tarefa de trabalhar com documentação normativa: os SP e as normas GOST. Para quem está longe da construção: não são livros chatos, mas um regulamento rígido, em que cada número é pago com a segurança de alguém. O modelo passou a agir como um estudante relapso numa prova: se não sabia a resposta exata, inventava. E fazia isso com tanta confiança que a farsa demorou a ser notada. O algoritmo gerava itens inexistentes das normas e apresentava números que nunca constaram nos documentos oficiais. Num setor em que um erro no cálculo da carga de uma viga pode levar a uma catástrofe, essa "criatividade" é inadmissível.

Por que isso acontece? O ChatGPT é um modelo de linguagem treinado para prever a próxima palavra, não para checar fatos em um banco de dados. Ele trabalha com probabilidades, não com a verdade. Quando você pede que encontre um item específico de uma norma GOST, ele não "vai à biblioteca": constrói uma resposta que soa o mais plausível possível. É aí que mora a perfídia das alucinações: elas parecem verdade. Para o marketing, isso não é crítico, mas para a engenharia é uma sentença. Aleksei entendeu que usar um LLM "puro" no trabalho profissional é como jogar roleta-russa com um revólver carregado.

Em vez de se decepcionar com a tecnologia, a equipe de Aleksei optou por criar uma ferramenta especializada. Em seis meses, desenvolveu o "Digital Standard" ("Padrão Digital"). A principal diferença em relação a um chatbot comum é o uso de RAG (Retrieval-Augmented Generation). A ideia é simples: o modelo não pode "lembrar" informações da própria memória. Em vez disso, o sistema é obrigado a buscar a resposta em uma base de dados vetorizada e estritamente delimitada de normas reais de construção. Se a informação não está na base, o sistema diz isso, em vez de se pôr a fantasiar. Assim, a IA deixa de ser contadora de histórias e vira uma bibliotecária de alta velocidade.

O caso de Krivonosov evidencia uma importante mudança tectônica no setor. A era do encantamento com modelos universais está passando. As empresas começam a entender que tarefas reais exigem soluções verticais. Não basta "conectar a API da OpenAI". É preciso processar os dados manualmente, limpá-los de lixo e configurar filtros rígidos na saída. Só assim a rede neural deixa de ser brinquedo e vira ferramenta de trabalho. Hoje vemos sistemas assim surgindo no direito, na medicina e agora na construção. É uma etapa natural do amadurecimento da tecnologia.

O que isso significa para o mercado? Primeiro, a demanda por "engenheiros de prompt" cai e cede lugar à de arquitetos de dados capazes de conectar LLMs ao conhecimento corporativo. Segundo, a confiança em modelos abertos em setores críticos só tende a diminuir. Entramos na era da "IA confiável", em que a precisão vale mais que a eloquência. A experiência de Aleksei mostra: para a IA ser útil, é preciso primeiro tirar dela o direito à criatividade onde reinam os números e as leis.

O essencial: redes neurais genéricas como o ChatGPT chegaram ao teto em tarefas profissionais. O futuro é dos sistemas RAG e das bases de conhecimento altamente especializadas. Você está disposto a confiar o cálculo da fundação da sua casa a um algoritmo que não sabe distinguir verdade de probabilidade?