Google AI Overviews confunde pesquisa com instruções para assistente

Google AI Overviews enfrentou um problema inesperado. Ao pesquisar a palavra «disregard» o sistema mostra uma resposta como um chatbot comum em vez de um resumo de IA, literalmente ignorando a essência da consulta do usuário.

Como o bug parece

Quando usuários procuram pela palavra «disregard» (em tradução — «ignore»), na seção AI Overview aparece uma resposta como:

Got it! Let me know if you need help with anything else.

Ou:

No problem at all! How can I help you today?

Em vez de mostrar resultados relevantes e explicar o significado da palavra, AI Overviews simplesmente "encerra o diálogo", como se o usuário tivesse enviado um comando ao assistente. Sem resultados, sem links — apenas essa resposta. O problema é reproduzido de forma consistente.

O que está acontecendo no modelo

O modelo do Google aparentemente interpreta a palavra «disregard» como um comando para si mesmo — literalmente como uma instrução para ignorar a consulta. Este é um caso clássico de injeção de prompt, mas através da interface de pesquisa: em vez de procurar informações, a IA muda para o modo assistente e reage à própria palavra como um comando. Isso lembra incidentes antigos com LLM, onde determinados tokens ou frases podem quebrar o comportamento esperado do sistema. A palavra "disregard" literalmente faz a IA "ignorar" sua tarefa principal (resumir resultados de pesquisa) e mudar para o modo "pronto para ajudar".

Por que isso é revelador

O bug expõe uma vulnerabilidade fundamental no design do AI Overviews. O sistema não separa completamente consultas informacionais de instruções:

• Determinadas palavras acionam uma mudança de contexto do modelo
• A intenção do usuário e os comandos para o assistente se misturam no mesmo sistema
• Google escalou AI Overviews sem teste completo de casos extremos
• Com bilhões de usuários, qualquer texto pode quebrar o modelo

O que isso significa

O incidente mostra o risco de integração muito rápida de LLM em sistemas críticos como pesquisa. Quando bilhões de pessoas digitam qualquer texto, a probabilidade de encontrar um caso extremo que quebre o modelo se aproxima de cem por cento. Para Google, isso é um sinal: retrabalhar a validação de entrada, adicionar filtros e garantir que AI Overviews consiga diferenciar uma consulta informacional de uma instrução ao sistema. Espere por um patch rápido e uma abordagem mais conservadora para expandir recursos.