Waymo y los autobuses escolares: cuando la IA ignora la ley y el sentido común

Imagine un mundo ideal en el que los coches sin conductor se deslizan suavemente por las calles, sin infringir las normas y sin cansarse. En ese mundo, Waymo es la alumna ejemplar: mientras Cruise sufre accidentes y abandona el mercado, la filial de Alphabet conquista metódicamente San Francisco, Phoenix y Los Ángeles. Pero hasta los alumnos ejemplares tienen sus trapos sucios, y en el caso de Waymo son los grandes autobuses escolares amarillos. El problema de ignorar las normas de parada ante el transporte escolar no solo sigue sin resolverse, sino que empeora y pasa de ser un fallo menor a una amenaza sistémica para el futuro de la conducción autónoma.

El problema parece engañosamente simple: cuando un autobús escolar se detiene y despliega su señal de «Stop», todos los vehículos de alrededor deben parar en seco. Es una norma básica de seguridad, grabada a fuego en la cabeza de todo conductor estadounidense desde la primera clase de autoescuela. Sin embargo, para la tan elogiada inteligencia artificial de Waymo, este escenario se convierte en una tarea irresoluble.

Vídeos e informes que se han hecho públicos muestran robotaxis que pasan con total seguridad junto a autobuses con las luces intermitentes, ignorando a los niños en el arcén. ¿Por qué un software capaz de reconocer una bolsa de plástico en el aire o un gato entre los arbustos falla ante un enorme objeto amarillo?

La raíz del problema está en cómo las redes neuronales perciben el contexto. Un autobús escolar no es un simple obstáculo estático. Es un objeto dinámico cuyo estado cambia en fracciones de segundo.

La señal de Stop extensible suele estar salpicada de barro, iluminada desde un ángulo desfavorable o parcialmente tapada por otros coches. Para una persona no es un problema: vemos el contexto. El autobús frena, se encienden las luces amarillas, así que va a parar.

Para la IA de Waymo, acostumbrada a basarse en patrones claros, este proceso resulta demasiado complejo. Si el algoritmo no está seguro al 99.9% de que tiene delante una señal de parada activa, opta por seguir circulando para no provocar un atasco de la nada.

Y esa decisión puede ser fatal.

Los reguladores de la NHTSA (la Administración Nacional de Seguridad del Tráfico en las Carreteras de EE. UU.) ya han empezado a examinar estos incidentes. Tras los recientes problemas de Cruise, cualquier falta de un robotaxi recibe ahora diez veces más atención. Si antes las infracciones menores se pasaban por alto como males del crecimiento, ahora la situación ha cambiado. Ignorar un autobús escolar no es solo una multa; es un detonante político y ético. Ningún alcalde ni senador querrá explicar a sus votantes por qué permitió circular a vehículos potencialmente peligrosos para los niños.

A las críticas se suma que Waymo se presenta como el conductor más seguro del mundo. La compañía publica con regularidad informes en los que compara sus cifras con las humanas y anuncia con orgullo una reducción de los accidentes. Pero la estadística es traicionera. Se puede recorrer un millón de millas sin una colisión, y aun así un solo adelantamiento a un autobús escolar borra todo el crédito de confianza. Es una cuestión no solo de tecnología, sino de contrato social: dejamos que los robots circulen entre nosotros solo mientras se comporten de forma predecible y respeten nuestras normas más importantes.

¿Qué significa esto para la industria? Lo más probable es que Waymo deba revisar con urgencia sus algoritmos de reconocimiento visual y, quizá, añadir capas de lógica específicas para las zonas escolares. Eso frenará la expansión del servicio y exigirá nuevas inversiones en el entrenamiento de los modelos. Pero no hay alternativa: o la IA aprende a respetar el autobús amarillo, o los reguladores pulsarán el botón de «Stop» para todo el programa de vehículos sin conductor. La ironía es que una tecnología pensada para eliminar el factor humano ha tropezado con una norma que cualquier persona cumple por instinto.

Lo principal: si Waymo no resuelve el problema de los autobuses en los próximos meses, a todo el sector del transporte autónomo le espera una nueva oleada de restricciones duras.