Waymo y autobuses escolares: cuando la IA ignora la ley y el sentido común

Imagina un mundo perfecto donde los vehículos autónomos se deslizan suavemente por las calles, sin violar nunca las normas y sin conocer el cansancio. En este mundo, Waymo se considera una alumna modelo: mientras Cruise sufre accidentes y abandona el mercado, la filial de Alphabet conquista metódicamente San Francisco, Phoenix y Los Angeles. Pero hasta las mejores alumnas tienen esqueletos en el armario, y en el caso de Waymo, son grandes autobuses escolares amarillos. La situación de ignorar la norma de parada para el transporte escolar no solo no se resuelve—está empeorando, transformándose de un error menor en una amenaza sistémica para el futuro de la conducción autónoma.

El problema suena engañosamente simple: cuando un autobús escolar se detiene y levanta una señal "Stop", todos los coches alrededor deben detenerse. Esta es una regla de seguridad básica inculcada en la cabeza de cada conductor americano desde la primera clase en la escuela de conducción. Sin embargo, para la vanagloriada inteligencia artificial de Waymo, este escenario se convierte en una tarea irresoluble. Videos e informes que se han hecho públicos muestran cómo los robotaxis avanzan con confianza junto a autobuses con luces intermitentes, ignorando a los niños a un lado de la carretera. ¿Por qué un software que puede reconocer una bolsa de plástico volando o un gato en los arbustos fracasa ante un enorme objeto amarillo?

La raíz del problema está en cómo las redes neuronales perciben el contexto. Un autobús escolar no es simplemente un obstáculo estático. Es un objeto dinámico cuyo estado cambia en fracciones de segundo.

La señal de parada extensible a menudo está manchada de suciedad, iluminada en un ángulo desfavorable o parcialmente bloqueada por otros coches. Para un humano, esto no es problema—vemos el contexto: el autobús se ralentiza, se encienden las luces amarillas, así que se aproxima una parada. Para la IA de Waymo, acostumbrada a confiar en patrones claros, este proceso resulta demasiado complejo.

Si el algoritmo no tiene una confianza del 99,9% de que se enfrenta a una señal de parada activa, elige continuar moviéndose para evitar crear congestión innecesaria. Y esta decisión podría ser fatal.

Los reguladores de la NHTSA (Administración Nacional de Seguridad Vial en Carreteras) ya han comenzado a examinar estos incidentes. En el contexto de los problemas recientes de Cruise, cualquier infracción de los robotaxis ahora recibe diez veces más atención. Si antes se pasaban por alto las infracciones menores como dolores de crecimiento, la situación ha cambiado. Ignorar un autobús escolar no es solo una multa—es un desencadenante político y ético. Ningún alcalde o senador querría explicar a los votantes por qué permitió máquinas en las calles que son potencialmente peligrosas para los niños.

La crítica se agrava por el hecho de que Waymo se posiciona como el conductor más seguro del mundo. La empresa publica regularmente informes comparando sus métricas con las de los humanos, anunciando con orgullo reducciones en las tasas de accidentes. Pero las estadísticas son cosas engañosas. Puedes conducir un millón de millas sin colisiones, pero un solo paso junto a un autobús escolar borrará todo el crédito de confianza. Esta no es solo una cuestión de tecnología, sino de contrato social: permitimos que los robots conduzcan entre nosotros solo si se comportan de manera predecible y respetan nuestras reglas más importantes.

¿Qué significa esto para la industria? Probablemente, Waymo tendrá que revisar urgentemente sus algoritmos de reconocimiento visual y posiblemente agregar capas de lógica específicas para zonas escolares. Esto ralentizará la expansión del servicio y requerirá nuevas inversiones en capacitación de modelos. Pero no hay elección: o la IA aprende a respetar el autobús amarillo, o los reguladores presionan el botón "Stop" para todo el programa de vehículos autónomos. La ironía es que la tecnología, diseñada para eliminar el factor humano, tropezó con una regla que cualquier humano sigue por instinto.

Punto clave: Si Waymo no resuelve el problema de los autobuses en los próximos meses, podemos esperar una nueva onda de restricciones estrictas para todo el sector del transporte autónomo.