Waymo et les bus scolaires : quand l'IA ignore la loi et le bon sens

Imaginez un monde idéal où les voitures sans conducteur glissent en douceur dans les rues, sans enfreindre les règles ni se fatiguer. Dans ce monde, Waymo est la première de la classe : pendant que Cruise accumule les accidents et quitte le marché, la filiale d'Alphabet conquiert méthodiquement San Francisco, Phoenix et Los Angeles. Mais même les premiers de la classe ont des cadavres dans le placard, et chez Waymo, ce sont les grands bus scolaires jaunes. Le problème du non-respect des règles d'arrêt devant les transports scolaires n'est pas seulement non résolu : il empire, passant d'un petit bug à une menace systémique pour l'avenir de la conduite autonome.

Le problème semble trompeusement simple : lorsqu'un bus scolaire s'arrête et déploie son panneau « Stop », tous les véhicules alentour doivent s'immobiliser. C'est une règle de sécurité élémentaire, martelée à tout conducteur américain dès la première leçon d'auto-école. Pourtant, pour l'intelligence artificielle tant vantée de Waymo, ce scénario devient un problème insoluble. Des vidéos et des rapports rendus publics montrent des robotaxis dépassant avec assurance des bus aux feux clignotants, sans tenir compte des enfants au bord de la route. Pourquoi un logiciel capable de reconnaître un sac plastique volant ou un chat dans les buissons échoue-t-il devant un énorme objet jaune ?

La racine du problème tient à la façon dont les réseaux de neurones perçoivent le contexte. Un bus scolaire n'est pas un simple obstacle statique. C'est un objet dynamique, dont l'état change en une fraction de seconde.

Le panneau Stop rétractable est souvent couvert de boue, mal éclairé ou partiellement masqué par d'autres voitures. Pour un humain, ce n'est pas un problème : nous voyons le contexte. Le bus ralentit, les feux jaunes s'allument, donc il va s'arrêter.

Pour l'IA de Waymo, habituée à s'appuyer sur des schémas nets, ce processus est trop complexe. Si l'algorithme n'est pas sûr à 99.9% d'avoir devant lui un panneau d'arrêt actif, il choisit de continuer à rouler pour ne pas créer d'embouteillage sans raison.

Et cette décision peut être fatale.

Les régulateurs de la NHTSA (l'Administration nationale de la sécurité routière des États-Unis) ont déjà commencé à s'intéresser à ces incidents. Après les récents déboires de Cruise, le moindre écart d'un robotaxi est désormais scruté dix fois plus. Si les petites infractions étaient autrefois balayées comme des maladies de jeunesse, la situation a changé. Ignorer un bus scolaire n'est pas qu'une simple amende : c'est un déclencheur politique et éthique. Aucun maire ni sénateur ne voudra expliquer à ses électeurs pourquoi il a autorisé la circulation de véhicules potentiellement dangereux pour les enfants.

La critique est d'autant plus vive que Waymo se présente comme le conducteur le plus sûr du monde. L'entreprise publie régulièrement des rapports comparant ses chiffres à ceux des humains et affiche fièrement une baisse du nombre d'accidents. Mais les statistiques sont trompeuses. On peut rouler un million de miles sans collision, et un seul dépassement d'un bus scolaire anéantit tout le capital de confiance. C'est une question non seulement de technologie, mais de contrat social : nous laissons les robots circuler parmi nous tant qu'ils se comportent de façon prévisible et respectent nos règles les plus importantes.

Que cela signifie-t-il pour l'industrie ? Selon toute vraisemblance, Waymo devra revoir en urgence ses algorithmes de reconnaissance visuelle et, peut-être, ajouter des couches de logique spécifiques aux zones scolaires. Cela ralentira le déploiement du service et exigera de nouveaux investissements dans l'entraînement des modèles. Mais il n'y a pas le choix : soit l'IA apprend à respecter le bus jaune, soit les régulateurs appuieront sur le bouton « Stop » pour tout le programme de véhicules sans conducteur. L'ironie, c'est qu'une technologie censée supprimer le facteur humain a trébuché sur une règle que n'importe qui respecte d'instinct.

À retenir : si Waymo ne règle pas le problème des bus dans les prochains mois, tout le secteur du transport autonome peut s'attendre à une nouvelle vague de restrictions sévères.