Google AI Overviews confond la recherche avec les instructions pour l'assistant

Google AI Overviews a rencontré un problème inattendu. Lors de la recherche du mot « disregard », le système affiche une réponse de chatbot au lieu du résumé IA habituel, ignorant littéralement la substance même de la requête de l'utilisateur.

À quoi ressemble le bug

Lorsque les utilisateurs recherchent le mot « disregard » (qui signifie « ignore »), la section AI Overview affiche une réponse du type :

Got it! Let me know if you need help with anything else.

Ou :

No problem at all! How can I help you today?

Au lieu d'afficher des résultats pertinents et d'expliquer le sens du mot, AI Overviews « termine simplement la conversation », comme si l'utilisateur avait envoyé une commande à l'assistant. Aucun résultat, aucun lien — juste cette réponse. Le problème se reproduit systématiquement.

Ce qui se passe dans le modèle

Le modèle de Google semble interpréter le mot « disregard » comme une commande pour lui-même — littéralement comme une instruction d'ignorer la requête. C'est un cas classique d'injection de prompt, mais via l'interface de recherche : au lieu de chercher des informations, l'IA bascule en mode assistant et réagit au mot lui-même comme à une instruction. Cela rappelle les anciens incidents avec les LLM, où certains jetons ou phrases peuvent casser le comportement attendu du système. Le mot « disregard » force littéralement l'IA à « ignorer » sa tâche principale (résumer les résultats de recherche) et à passer en mode « prêt à aider ».

Pourquoi c'est révélateur

Le bug révèle une vulnérabilité fondamentale dans la conception d'AI Overviews. Le système ne sépare pas complètement les requêtes informationnelles des instructions :

• Certains mots déclenchent un changement de contexte du modèle
• L'intention de l'utilisateur et les commandes pour l'assistant se confondent dans un seul système
• Google a étendu AI Overviews sans tester complètement les cas limites
• Avec des milliards d'utilisateurs, n'importe quel texte peut casser le modèle

Ce que cela signifie

L'incident montre le risque d'intégrer trop rapidement les LLM dans des systèmes critiques comme la recherche. Lorsque des milliards de personnes saisissent n'importe quel texte, la probabilité de trouver un cas limite qui casse le modèle approche 100 %. Pour Google, c'est un signal : retravailler la validation des données d'entrée, ajouter des filtres et s'assurer que AI Overviews peut distinguer une requête informationnelle d'une instruction pour le système. Attendez-vous à un correctif rapide et à une approche plus conservatrice pour l'expansion des fonctionnalités.