Ex-dirigeante de DeepMind : la politique nationaliste des États-Unis en IA mène à la catastrophe

Verity Harding, ancienne directrice de DeepMind, a déclaré dans un entretien à Wired que la ligne nationaliste du gouvernement américain en matière d'intelligence artificielle n'est plus un danger théorique, mais la preuve directe que le pire scénario commence à se réaliser. Elle est convaincue qu'une course aux armements en IA peut tourner à la catastrophe.

Ce que voit Harding de l'intérieur

Harding a travaillé chez DeepMind, le laboratoire d'IA phare de Google et l'une des organisations de recherche les plus influentes au monde. Après des années à la jonction de la technologie et du politique, elle s'est forgé une position nette : la principale menace ne vient pas de la technologie elle-même, mais de la manière dont les États bâtissent leur politique autour d'elle.

Quand les gouvernements envisagent l'IA avant tout sous l'angle de la supériorité nationale, la logique bien connue de la course aux armements s'enclenche. « Battre le rival » compte davantage que « développer de façon responsable ». La vitesse de développement évince la réflexion sur les conséquences. Le secret l'emporte sur la transparence.

« L'attitude nationaliste du gouvernement américain envers l'IA prouve que le pire scénario commence à se réaliser », a déclaré

Harding à Wired.

Pourquoi le nationalisme en IA est plus dangereux que les courses précédentes

La rivalité géopolitique en IA comporte des risques fondamentalement différents de ceux des précédentes courses technologiques. Les technologies nucléaires ont été développées derrière de hautes barrières et sont restées aux mains des États. Les capacités de l'IA se diffusent autrement : par des publications ouvertes et des API commerciales accessibles à des millions de développeurs dans le monde.

Le nationalisme en IA crée plusieurs problèmes systémiques à la fois :

• L'échange international d'informations sur les risques et les vulnérabilités est bloqué pour des raisons de concurrence
• Le rythme de développement est accéléré artificiellement, au-delà de la capacité des chercheurs à évaluer les conséquences
• Les chercheurs en sécurité perdent leur influence sur des priorités de plus en plus dictées par la géopolitique
• Les mécanismes mondiaux de contrôle n'ont pas le temps de se former, chaque camp attendant que ce soit lui qui fixe les règles

Les États qui perçoivent l'IA comme une arme géopolitique n'ont objectivement aucun intérêt à adopter des mesures de sécurité susceptibles de freiner leur progression. C'est dans ce piège structurel, selon Harding, que naît la catastrophe potentielle.

La technologie contre la géopolitique

La position de Harding reflète une fracture croissante au sein de la communauté de l'IA. Une partie des experts voit la menace principale dans les modèles puissants eux-mêmes, à cause de leurs capacités et de leur imprévisibilité. D'autres, comme Harding, sont convaincus que la technologie est neutre en soi ; le problème tient à la façon dont les logiques politique et militaire façonnent son développement.

Quand les grandes puissances technologiques bâtissent leurs stratégies nationales d'IA selon une logique de jeu à somme nulle, les forums internationaux sur la sécurité cessent d'être des plateformes de coopération et deviennent un champ de plus de la compétition géopolitique.

Ce que cela signifie

L'avertissement de Harding s'inscrit dans un consensus croissant parmi les experts en IA : tant que le « nationalisme en IA » l'emportera sur la coopération internationale en matière de sécurité, les risques de défaillance catastrophique resteront ouverts. La technologie progresse plus vite que les mécanismes pour la contrôler, et c'est cet écart qui inquiète le plus.