Sécurité aérienne en pilote automatique : Trump confie la rédaction des règles à l'IA

« Inonder la zone » : c'est ainsi que l'on décrit la nouvelle stratégie au Département américain des Transports. Alors que le monde de la tech se demande si ChatGPT remplacera les programmeurs, l'administration Trump a choisi de jouer le tout pour le tout et de confier aux réseaux de neurones un domaine sacré : la sécurité aérienne. L'idée est d'une simplicité cynique : si la machine étatique n'arrive pas à suivre le marché, il suffit d'appuyer sur le bouton « générer ». Il ne s'agit pas seulement d'optimiser le travail des employés de bureau, mais d'un changement radical dans la manière dont sont élaborées les règles qui régissent l'aviation mondiale.

Historiquement, les règles de sécurité aérienne ont été écrites, au sens propre, avec du sang. Chaque virgule des réglementations de la FAA (Federal Aviation Administration, l'autorité fédérale de l'aviation civile) est apparue à la suite d'enquêtes minutieuses sur des catastrophes, de tests menés pendant des années et de concertations interminables. Ce processus est lent et pénible, mais il a fait ses preuves depuis des décennies.

Aujourd'hui, on veut le transformer en chaîne de montage. Les responsables prévoient d'utiliser des grands modèles de langage pour rédiger de nouvelles règles et réviser les anciennes, afin de supprimer la « réglementation excessive » en des délais record. La logique est simple : plus vite on retire les barrières, plus vite les affaires décollent.

Le problème est que l'IA n'est ni juriste ni ingénieur aéronautique. C'est une machine statistique complexe qui prédit le mot suivant dans une phrase. Quand une telle machine écrit le code d'un jeu mobile, le risque se limite à des bugs d'interface. Quand elle rédige les règles d'exploitation de composants critiques d'un avion, le risque pèse sur des centaines de personnes à bord. Le principal argument des partisans de la réforme est que l'IA peut analyser des milliers de pages de documentation plus vite que n'importe quel service juridique. Mais l'algorithme comprend-il le contexte de la sécurité comme le comprend un humain qui a vu les conséquences d'erreurs techniques ?

Cette initiative ressemble à une tentative de dérégulation totale sous couvert de progrès technologique. Le secteur aérien connaît de longue date la notion de « capture réglementaire », lorsque les entreprises contrôlées finissent par dicter leurs conditions à leurs contrôleurs. Utiliser une IA entraînée sur des textes rédigés, entre autres, par les lobbyistes des géants de l'aviation pourrait transformer l'autorité de supervision en imprimante automatique des intérêts des entreprises. Et pour l'instant, aucun responsable n'est prêt à assumer la responsabilité d'éventuelles « hallucinations » de l'algorithme dans un texte juridique.

Il est d'autant plus ironique que tout cela se produise dans un contexte de crise de confiance persistante envers l'industrie aéronautique. Après la série d'incidents impliquant Boeing, le monde attendait un renforcement des contrôles et des vérifications plus rigoureuses, pas leur automatisation. Pourtant, la nouvelle administration est convaincue que la vitesse prime sur les procédures. Si l'expérience menée au Département des Transports réussit, la même approche s'étendra à tous les domaines, de la médecine à l'écologie. Les lois seront écrites plus vite que nous ne pourrons les lire, sans parler d'en mesurer les conséquences à long terme.

La question centrale n'est même pas de savoir si l'IA commettra une erreur. Elle en commettra, c'est inscrit dans la nature de cette technologie. La question est de savoir si, dans cette chaîne, il restera un humain capable d'appuyer à temps sur le frein. Pour l'instant, « inonder la zone » ressemble à une tentative de démolir l'ancien ordre sans construire de remplaçant fiable. Nous entrons dans une ère où la sécurité des vols pourrait dépendre de la qualité du prompt rédigé un lundi matin par un fonctionnaire de niveau intermédiaire.

L'essentiel : la société est-elle prête à ce que les lois soient écrites par des algorithmes, sans réflexion humaine ?