Por que a narrativa de que «a IA é fácil de enganar» perde o ponto central

No fim de fevereiro de 2026, a BBC publicou uma reportagem de grande repercussão sobre como sistemas de IA generativa podem ser «hackeados» em questão de minutos. Os jornalistas fizeram um experimento simples: publicaram um post de blog que se apresentava como especializado em um tema muito restrito e logo perceberam que o ChatGPT, da OpenAI, e as respostas de IA da busca do Google passaram a reproduzir informações dessa publicação. As manchetes foram chamativas, e a história se espalhou pela rede. Mas o The Next Web olhou a situação por outro ângulo e fez uma pergunta incômoda: e se toda essa narrativa de que «a IA é fácil de enganar» simplesmente errar o alvo?

Para entender a polêmica, é preciso olhar a mecânica. Os grandes modelos de linguagem atuais, como o GPT-4o ou o Gemini, não guardam uma base de conhecimento fixa, como uma enciclopédia. Eles são treinados com enormes volumes de texto da internet e, quando a busca está ativada, também consultam conteúdo recente da web em tempo real.

Quando um modelo com busca recebe uma pergunta sobre um tema raro, ele procura fontes relevantes, e, se o único material disponível é aquele post de blog recente, é ele que vira a base da resposta. Isso não é um hack no sentido clássico. É consequência de uma decisão de arquitetura: o modelo confia no que encontra na rede, mais ou menos como faz um buscador.

É justamente aí que está a divergência central entre a narrativa sensacionalista e a realidade. Chamar isso de «hacking» implica que alguém contornou as defesas do sistema, achou uma vulnerabilidade no código ou explorou um bug técnico. O que aconteceu foi algo muito mais banal e, ao mesmo tempo, mais preocupante: o sistema de IA fez exatamente aquilo para o que foi projetado, encontrou informação na internet e a repassou ao usuário. O problema não é que o sistema tenha sido enganado, e sim que ele não tem um mecanismo confiável para separar fontes fidedignas das não fidedignas. Isso não é um bug que se corrija com um patch. É uma propriedade fundamental da tecnologia no estado atual.

Ainda assim, seria um erro descartar o experimento da BBC como irrelevante. Ele ilumina um problema real e sério: a confiança na informação na era da busca com IA. Milhões de usuários já tratam as respostas do ChatGPT ou do Google AI Overview como fonte autorizada, sem pensar de onde o modelo tirou determinado fato.

Se um único post de blog basta para influenciar as respostas dos maiores sistemas de IA sobre um tema de nicho, isso abre as portas para manipulações direcionadas, de marketing a políticas. O SEO para mecanismos de busca existe há décadas, mas «otimizar» conteúdo para modelos de IA é um nível de influência qualitativamente novo, porque o usuário não vê uma lista de links, e sim uma resposta confiante e categórica.

A OpenAI e o Google, claro, trabalham em soluções. As duas empresas investem em sistemas de verificação de fontes, de classificação de credibilidade e no chamado «grounding», que vincula as respostas do modelo a dados verificados. O Google, em particular, desenvolve mecanismos de checagem cruzada, nos quais o modelo compara informações de várias fontes independentes antes de incluí-las na resposta. A OpenAI experimenta com transparência nas citações, permitindo que os usuários vejam em quais fontes exatas a resposta se baseia. Mas, por enquanto, esses mecanismos estão longe da perfeição, sobretudo em temas de nicho, onde o número de fontes disponíveis é mínimo.

Há também um contexto mais amplo. A discussão sobre o «hack da IA» ocorre em meio a um ceticismo público crescente em relação às tecnologias generativas. Cada manchete desse tipo alimenta a imagem da IA como um brinquedo pouco confiável e fácil de enganar. Mas a realidade é mais complexa. Esses mesmos sistemas ajudam diariamente milhões de pessoas a encontrar informações, escrever código, analisar dados e resolver tarefas que antes exigiam horas de trabalho. O problema da confiança nas fontes não é uma sentença contra a tecnologia, e sim um desafio que a indústria precisa resolver se quiser que a busca com IA substitua de fato os buscadores tradicionais.

No fim das contas, a história do experimento da BBC não é sobre a IA ser burra ou vulnerável. É sobre estarmos em um período de transição, em que a tecnologia já é poderosa o bastante para moldar a opinião pública, mas ainda não é madura o suficiente para fazer isso com responsabilidade. A pergunta de verdade não é se dá para enganar um modelo de linguagem com um post de blog. A pergunta de verdade é quem responde pela confiabilidade de respostas que centenas de milhões de pessoas aceitam como verdadeiras todos os dias. E, a essa pergunta, nem a OpenAI nem o Google deram, até agora, uma resposta convincente.