Google AI Overviews confunde la búsqueda con instrucciones para el asistente

Google AI Overviews se enfrentó a un problema inesperado. Al buscar la palabra «disregard», el sistema muestra una respuesta como un chatbot común en lugar de un resumen de IA, ignorando literalmente la esencia de la consulta del usuario.

Cómo se ve el bug

Cuando los usuarios buscan la palabra «disregard» (en la traducción — «ignora»), en la sección AI Overview aparece una respuesta como:

Got it! Let me know if you need help with anything else.

O:

No problem at all! How can I help you today?

En lugar de mostrar resultados relevantes y explicar el significado de la palabra, AI Overviews simplemente «cierra el diálogo», como si el usuario hubiera enviado un comando al asistente. Sin resultados, sin enlaces — solo esta respuesta. El problema se reproduce consistentemente.

Qué está sucediendo en el modelo

El modelo de Google parece interpretar la palabra «disregard» como un comando para sí mismo — literalmente como una instrucción para ignorar la consulta. Este es un caso clásico de inyección de prompt, pero a través de la interfaz de búsqueda: en lugar de buscar información, la IA cambia al modo de asistente y reacciona a la palabra como una orden. Esto recuerda a incidentes anteriores con LLM, donde ciertos tokens o frases pueden romper el comportamiento esperado del sistema. La palabra «disregard» literalmente obliga a la IA a «ignorar» su tarea principal (resumir resultados de búsqueda) y cambiar al modo «listo para ayudar».

Por qué es significativo

El bug revela una vulnerabilidad fundamental en el diseño de AI Overviews. El sistema no separa completamente las consultas informativas de las instrucciones:

• Ciertas palabras desencadenan un cambio de contexto en el modelo
• La intención del usuario y los comandos del asistente se confunden en un solo sistema
• Google escaló AI Overviews sin pruebas completas de casos límite
• Con miles de millones de usuarios, cualquier texto puede romper el modelo

Qué significa esto

El incidente muestra el riesgo de integrar demasiado rápidamente LLM en sistemas críticos como la búsqueda. Cuando miles de millones de personas ingresan cualquier texto, la probabilidad de encontrar un caso límite que rompa el modelo se aproxima al cien por ciento. Para Google, esta es una señal: revisar la validación de entrada, agregar filtros y asegurar que AI Overviews pueda distinguir entre una consulta informativa y una instrucción del sistema. Espere un parche rápido y un enfoque más conservador para la expansión de características.