Google Search falla con comandos simples: la búsqueda con IA no distingue consultas de instrucciones

Google presentó en la conferencia I/O 2026 un buscador radicalmente rediseñado con un núcleo de inteligencia artificial. En lugar de las palabras clave clásicas, la nueva búsqueda debería entender mejor la intención del usuario. Sin embargo, en la práctica el sistema resultó inesperadamente vulnerable: interpreta algunas palabras corrientes como comandos del sistema.

Cómo romper la nueva búsqueda

El problema se manifestó poco después del lanzamiento de la versión beta. Cuando los usuarios escribían en la barra de búsqueda palabras simples como «stop» o «ignora», el sistema las interpretaba como comandos internos y no como parte de la consulta. El resultado: la búsqueda se bloqueaba o devolvía resultados vacíos o distorsionados.

En Reddit y en blogs de desarrolladores aparecieron hilos enteros con ejemplos. Resultó que la sensibilidad se extiende también a otras palabras como «terminar», «cancelar» y «atrás». Cada una provocaba un fallo distinto, desde la detención total de la búsqueda hasta resultados completamente irrelevantes.

Esto resulta especialmente raro porque Google claramente no esperaba este problema. O los ingenieros no probaron lo suficiente la búsqueda con distintas variantes de lenguaje natural, o sobrestimaron la capacidad de la IA para distinguir entre palabras corrientes y comandos. Normalmente estas pruebas llevan meses.

Por qué ocurre

En realidad, la situación es típica de los sistemas modernos basados en grandes modelos de lenguaje. La IA se entrena con enormes cantidades de textos, código e instrucciones. Durante el entrenamiento, el modelo ve muchos ejemplos de sistemas en los que palabras como «stop» o «ignora» sí funcionan como comandos. La frontera entre el contexto del usuario y las directivas del sistema se difumina.

La arquitectura de la búsqueda agrava el problema. La nueva búsqueda con IA de Google usa varias capas de modelos: primero un modelo procesa la consulta para entender la intención, luego otro busca en el índice y después un tercero ordena los resultados. Si uno de estos modelos interpreta mal un comando, el error afecta a toda la cadena.

Desencadenantes típicos del fallo:

• Confusión entre la entrada del usuario y los comandos del sistema
• Separación insuficiente de contextos entre las capas de modelos
• Sensibilidad excesiva a ciertas palabras clave
• Ausencia de un filtro fiable en el nivel de análisis de la entrada
• Falta de ejemplos de estos casos límite en el conjunto de entrenamiento

Problemas similares ya habían surgido antes: en chatbots como ChatGPT, la frase «olvida las instrucciones anteriores» puede romper la lógica de funcionamiento. A estas vulnerabilidades se las llama ataques de prompt injection.

La respuesta de Google y el plan a largo plazo

La compañía reaccionó con rapidez. Al día siguiente de que el problema se descubriera de forma masiva, salió una actualización que supuestamente corrigió las vulnerabilidades principales. Google afirmó que mejoró el filtrado de la entrada, añadió una capa adicional de verificación antes de que el modelo de IA procese las consultas y amplió la lista de palabras desencadenantes que requieren un tratamiento especial.

Sin embargo, cerrar por completo este tipo de vulnerabilidades es muy difícil. El lenguaje natural no tiene una frontera sintáctica estricta entre comando y contexto. Cualquier palabra puede ser potencialmente una u otro, según el contexto.

Google prometió que actualizará los filtros de forma regular a medida que los usuarios aporten datos sobre nuevos casos límite. Los ingenieros trabajan además en una solución más de fondo: replantear la arquitectura de la interacción entre las capas de modelos.

Mientras tanto, la compañía audita todos sus sistemas de búsqueda existentes en busca de vulnerabilidades similares. Resultó que el antiguo buscador clásico de Google también está afectado, aunque en menor medida, por su arquitectura más simple y la ausencia de capas de IA. La nueva búsqueda es más compleja y, por ello, más frágil.

«Este es el primer paso hacia la búsqueda con IA perfecta, no el producto final»: más o menos ese es el enfoque que

Google demuestra con sus acciones.

Qué significa

El incidente muestra que incluso un gigante como Google puede subestimar la complejidad de la interacción entre humanos e IA. Los nuevos buscadores con IA potente necesitan no solo buenos modelos, sino también una arquitectura de seguridad fiable.

Para los usuarios, es un recordatorio de que no todas las promesas hechas en una conferencia se convierten enseguida en un producto plenamente funcional. Para la industria, es una señal de que el prompt injection y las vulnerabilidades similares deben tenerse en cuenta desde la etapa más temprana del diseño de sistemas con LLM. No es una corrección de errores al final del ciclo de desarrollo; es una tarea de arquitectura.