Autor do Habr alerta: uso irrefletido de IA leva à degradação dos profissionais

Um autor do Habr levantou a questão sobre aonde o uso irrefletido de IA pode levar. Na visão dele, na corrida pelo lucro, os detentores de grandes modelos de linguagem correm o risco de destruir não só a qualidade dos textos, mas também a qualificação humana.

Por que o texto gerado não substitui a expertise

Segundo o autor, os transformers generativos não inventam nada: eles apenas usam grandes modelos de linguagem para gerar, ou seja, combinar, textos plausíveis. Quem aplica textos gerados sem a devida análise crítica acaba perdendo, sem perceber, a qualificação que tinha, se é que tinha alguma. Já quem nunca foi um profissional qualificado entra em euforia, imaginando que agora consegue resolver problemas sem ter o conhecimento necessário.

"Isso vai funcionar enquanto pessoas que realmente entendem do assunto estiverem no comando do desenvolvimento.

Mas quando elas forem substituídas por quem dominou a interação com a IA, mas não tem a qualificação necessária para avaliar com sobriedade os resultados obtidos com a ajuda da IA, aí acontecerá o desastre", alerta o autor.

O que acontece com os modelos de uma versão para outra

O autor observa que, a cada nova versão, os modelos ganham mecanismos determinísticos ocultos, aquilo que costuma ser descrito como "o modelo pensa", que deveriam tornar as respostas mais adequadas. Ao mesmo tempo, porém, as respostas incorporam cada vez mais o fator humano, e o viés humano pode deixar sua marca no resultado final. Para a promoção comercial do produto, como ironiza o autor, isso é sem dúvida ótimo.

Outro problema são as fontes de dados usadas no treinamento dos modelos: nada garante sua confiabilidade. Com a geração de código, segundo o autor, a situação é um pouco melhor, mas também aqui a IA, em princípio, não cria nada novo. O máximo que pode acontecer, se os modelos forem treinados com os resultados de gerações considerados mais bem-sucedidos, é alguma melhora ou, ao contrário, uma degradação dos resultados finais.

Quem está na zona de risco

A ideia central do autor é que o perigo não vem dos grandes modelos de linguagem em si, mas da forma como são usados por pessoas sem a devida qualificação. Enquanto as decisões nas empresas forem tomadas por pessoas com expertise real, capazes de avaliar criticamente o resultado do trabalho da IA, o problema continua administrável. O risco cresce quando essas pessoas em cargos de liderança começam a ser substituídas por profissionais que só sabem interagir com a IA, mas não conseguem avaliar com sobriedade a qualidade do resultado obtido.

Na prática, trata-se de uma troca de gerações dentro da profissão: uma geração ainda aprendeu a resolver problemas com as próprias mãos e a própria cabeça, enquanto a seguinte corre o risco de aprender apenas a formular prompts para o modelo.

O que fazer com esse risco na prática

Do raciocínio do autor decorre uma conclusão prática: o resultado do trabalho da IA deve ser tratado como rascunho, e não como resposta pronta, e precisa ser verificado justamente por alguém capaz de avaliar o conteúdo em sua essência, e não só na forma. Isso vale tanto para textos quanto para código: nos dois casos, o modelo combina o que já viu, em vez de criar conhecimento fundamentalmente novo, e a responsabilidade pela qualidade do resultado final continua sendo de quem o utiliza.

O que isso significa

O autor pede que não se confunda saber usar IA com qualificação profissional: a ferramenta combina textos plausíveis, mas não substitui a capacidade de verificar o resultado de forma crítica. Enquanto pessoas que entendem do assunto continuarem no comando, o risco é administrável, mas ele cresce à medida que elas são substituídas por quem só aprendeu a trabalhar com IA.