Pourquoi la supervision indépendante de l'AI ne peut plus être reportée

Quand a-t-on vu pour la dernière fois une technologie capable de refaçonner les fondements de la civilisation se développer pratiquement sans surveillance d'État ? Suzanne Nossel, directrice de PEN America et membre du conseil de surveillance indépendant de Meta, estime que c'est précisément ce qui se passe actuellement avec l'intelligence artificielle — et que la fenêtre d'action se ferme rapidement.

Dans sa chronique pour The Guardian, Nossel établit une comparaison instructive. La radio, l'énergie nucléaire, Internet — chacune de ces technologies s'est développée dès le départ avec une participation active des gouvernements. Pour les médicaments, il existe la FDA, qui teste les médicaments avant leur mise sur le marché.

Pour l'industrie nucléaire, il existe des exigences strictes en matière de divulgation des accidents et des incidents. Pour l'intelligence artificielle, rien de tel n'existe. Les entreprises lancent des modèles dont le fonctionnement n'est pas même pleinement compris par leurs créateurs, et elles n'assument pratiquement aucune responsabilité pour les conséquences.

Les chatbots donnent déjà des conseils aux adolescents sur le suicide, et les experts avertissent que bientôt ils seront capables d'instruire sur la création d'armes biologiques.

Pourquoi la régulation stagne-t-elle ? Nossel pointe trois facteurs clés. Premièrement, les énormes ressources de lobbying des entreprises technologiques, qui à Washington rivalisent seulement avec l'influence des industries pétrolière et pharmaceutique.

Deuxièmement, la polarisation politique au Congrès, où toute législation sur l'IA risque de devenir otage des désaccords partisans. Troisièmement, la nature même de la technologie — elle se développe si rapidement que les législateurs ne peuvent pas physiquement suivre ce qu'ils tentent exactement de réglementer. Donald Trump, pendant ce temps, cherche à annuler les lois régionales sur l'IA que certains États ont commencé à adopter en l'absence de normes fédérales.

L'Europe, apparemment en avance avec son AI Act, fait déjà face à des pressions commerciales affirmant que des règles strictes sapent la compétitivité du continent.

Particularément notable est la critique de Nossel envers les entreprises qui se positionnent comme des acteurs responsables. OpenAI, Google, Anthropic — tous proclament leur engagement envers la sécurité. Cependant, la course à la domination du marché de l'IA exige d'investir des milliards de dollars dans le développement de modèles de plus en plus puissants, d'ajouter de la publicité et d'élargir la collaboration avec les structures militaires.

Anthropic, qui construit sa marque sur l'idée d'une entreprise d'IA « la plus consciencieuse », utilise une expérience de pensée comme guide éthique — le modèle doit imaginer comment agirait un « employé senior réfléchi d'Anthropic ». Nossel note justement que cette approche reproduit le même problème pour lequel la Silicon Valley a été critiquée pendant des années : un cercle restreint de personnes issues d'un milieu privilégié prenant des décisions qui affectent des milliards d'utilisateurs dans le monde.

Les chiffres confirment l'ampleur de l'inquiétude du public. Selon les sondages de 2025, 77 pour cent des Américains pensent que l'IA pourrait représenter une menace pour l'humanité. Ce n'est pas une position marginale d'alarmistes — c'est une majorité écrasante de la population du pays qui est le leader mondial dans le développement de cette technologie. Pourtant, entre la conscience des risques et l'action réelle existe un gouffre.

Pour le public russe, cette discussion a une signification particulière. En Russie, la régulation de l'IA en est à un stade encore plus précoce qu'aux États-Unis ou en Europe, et les plus grandes entreprises technologiques du pays développent activement leurs propres modèles de langage et services d'IA. L'expérience internationale — et les erreurs — dans la construction de systèmes de surveillance influenceront inévitablement la formation des approches russes face à ce problème.

La position de Nossel se résume à une idée simple mais importante : si les États ne sont pas en mesure ou ne sont pas disposés à réglementer l'IA en ce moment, l'étape minimale devrait être l'accord des entreprises sur une surveillance externe indépendante. Pas de comités d'éthique internes, pas d'expériences de pensée sur la façon dont un employé idéal agirait, mais des audits complets par des structures indépendantes des profits de ces entreprises. Cela ne résoudra pas complètement le problème, mais créera au moins une première ligne de défense — jusqu'à ce que les législateurs rattrapent la technologie qui les a depuis longtemps dépassés.