Google Search s'écroule sur des commandes simples : la recherche par IA ne distingue pas les requêtes

Google a présenté un moteur de recherche radicalement repensé avec un noyau intelligent lors de la conférence I/O 2026. Au lieu des mots-clés classiques, la nouvelle recherche devrait mieux comprendre les intentions de l'utilisateur. Cependant, en pratique, le système s'est avéré étonnamment vulnérable : il interprète certains mots ordinaires comme des commandes système.

Comment casser la nouvelle recherche

Le problème s'est manifesté rapidement après le lancement de la version bêta. Lorsque les utilisateurs tapaient des mots simples comme "arrête" ou "ignore" dans la barre de recherche, le système les interprétait comme des commandes internes, pas comme faisant partie de la requête. Résultat : la recherche soit se bloquait, soit retournait des résultats vides ou déformés.

Reddit et les blogs de développeurs se sont remplis de fils avec des exemples. Il s'avère que la sensibilité s'étend à d'autres mots comme "terminer", "annuler", "retour". Chacun d'eux déclenchait des défaillances sous différentes formes : de l'arrêt complet de la recherche à la restitution de résultats complètement non pertinents.

C'est particulièrement étrange car Google ne s'attendait clairement pas à un tel problème. Les ingénieurs soit n'ont pas testé suffisamment la recherche sur diverses variations du langage naturel, soit ont surestimé la capacité de l'IA à distinguer le contexte entre les mots ordinaires et les commandes. Normalement, ces tests prennent plusieurs mois.

Pourquoi cela se produit

En réalité, la situation est typique pour les systèmes modernes basés sur de grands modèles de langage. L'IA apprend à partir d'une énorme quantité de textes, de codes et d'instructions. Lors de l'entraînement, le modèle voit de nombreux exemples de systèmes où les mots comme "arrête" ou "ignore" servent effectivement de commandes.

La frontière entre le contexte utilisateur et les directives système devient floue. Le problème est approfondi par l'architecture de la recherche. La nouvelle recherche IA de Google utilise plusieurs couches de modèles : d'abord un modèle traite la requête pour comprendre l'intention, puis un autre la cherche dans l'index, puis un troisième classe les résultats.

Si l'un de ces modèles interprète une commande incorrectement, cela affecte toute la chaîne.

Déclencheurs d'échec typiques :

• Confusion entre l'entrée utilisateur et les commandes système
• Séparation insuffisante des contextes entre les couches de modèles
• Sensibilité excessive à certains mots-clés
• Absence de filtre fiable au niveau de l'analyse des entrées
• Manque d'exemples dans l'ensemble d'entraînement pour ces cas limites

Des problèmes similaires s'étaient produits auparavant : dans les chatbots comme ChatGPT, où la phrase "oublie les instructions précédentes" peut casser la logique de fonctionnement. Ces vulnérabilités sont appelées attaques d'injection de requête.

Réponse de Google et plan à long terme

L'entreprise a réagi rapidement. Le jour après la découverte généralisée du problème, une mise à jour a été lancée qui aurait corrigé les principales vulnérabilités. Google a déclaré qu'il avait amélioré le filtrage des entrées, ajouté une couche de vérification supplémentaire avant le traitement des requêtes par les modèles d'IA, et élargi la liste des mots-déclencheurs nécessitant un traitement spécial.

Cependant, fermer complètement ces vulnérabilités est très difficile. Le langage naturel n'a pas de limite syntaxique stricte entre la commande et le contexte. N'importe quel mot peut potentiellement être l'un ou l'autre selon le contexte.

Google a promis de mettre régulièrement à jour les filtres à mesure que des données sur de nouveaux cas limites proviendraient des utilisateurs. Les ingénieurs travaillent également sur une solution plus fondamentale — repenser l'architecture de l'interaction entre les couches de modèles. Pendant ce temps, l'entreprise mène un audit de tous les systèmes de recherche existants pour des vulnérabilités similaires.

Il s'avère que l'ancienne recherche classique de Google est également sujette à ce problème, mais dans une moindre mesure — en raison d'une architecture plus simple et de l'absence de couches IA. La nouvelle recherche est plus complexe et donc plus fragile.

"Ceci est un premier pas vers la recherche IA idéale, et non un produit final," — à peu près cette approche

Google démontre par ses actions.

Ce que cela signifie

L'incident montre que même un géant comme Google peut sous-estimer la complexité de l'interaction humain-IA. Les nouveaux systèmes de recherche avec une IA puissante nécessitent non seulement de bons modèles, mais aussi une architecture de sécurité fiable. Pour les utilisateurs, c'est un rappel : toutes les promesses de conférence ne deviennent pas immédiatement des produits entièrement fonctionnels. Pour l'industrie, c'est un signal que l'injection de requête et les vulnérabilités similaires doivent être prises en compte lors de la conception de systèmes avec LLM au tout début. Ce n'est pas une correction de bug à la fin du cycle de développement, c'est une tâche architecturale.