Yoshua Bengio et LawZero : pourquoi la peur de l'IA de demain détourne des menaces d'aujourd'hui

Le débat sur l'avenir de l'intelligence artificielle s'organise de plus en plus autour de scénarios où les machines deviendraient un jour intelligentes et échapperaient à tout contrôle. La thèse centrale de ce texte est différente : inutile d'attendre une hypothétique superintelligence, car les principaux risques de l'IA se manifestent déjà dans l'économie et la politique réelles. Il ne s'agit pas d'une révolte des machines, mais de concentration du pouvoir, de surveillance, de pression sur les salariés et d'un usage de la technologie au service de grandes structures.

L'auteur déclare sans détour qu'il ne considère pas les systèmes d'IA actuels comme intelligents et ne voit aucune raison de penser que des modèles statistiques impressionnants produiront automatiquement une intelligence à part entière. Il juge donc les discussions du type « que faire si l'IA devient consciente » soit comme une diversion commode, soit comme un cadrage marketing qui permet de débattre de catastrophes futures spectaculaires plutôt que des problèmes dérangeants du présent. D'où la référence au « pari de Pascal » : la peur d'un événement improbable mais grandiose finit par dicter l'agenda plus fortement que les conséquences déjà observables.

La position de l'auteur ne se réduit pas pour autant à un technooptimisme sans réserve. Au contraire, il reconnaît partager une partie des inquiétudes des « doomers » de l'IA, mais situe la source du danger non dans l'éveil d'une intelligence artificielle, mais chez les personnes et les institutions qui contrôlent déjà ces systèmes. Il s'inquiète de voir les outils numériques concentrés entre les mains d'entreprises dont la taille complique le contrôle public. Il s'inquiète de voir la technologie utilisée contre les utilisateurs et les salariés : pour renforcer la surveillance, automatiser la pression, durcir les indicateurs de productivité et faire pencher un peu plus le rapport de force en faveur des employeurs et de l'État.

C'est là que naît le principal désaccord avec le courant le plus futuriste de la sécurité de l'IA. Il découle d'un débat public à Montréal, où l'auteur est intervenu aux côtés d'Astra Taylor et de Yoshua Bengio. Bengio est l'un des chercheurs les plus respectés du deep learning, lauréat du prix Turing et un scientifique dont les travaux ont contribué à façonner l'actuel boom de l'IA. Il participe aujourd'hui à l'initiative LawZero, qui propose de créer un consortium international et de développer l'IA comme un bien public numérique : ouvert, transparent, vérifiable et sûr. Pour les partisans de cette approche, les risques à long terme sont assez sérieux pour justifier de bâtir des institutions de protection en amont.

L'auteur conteste toutefois moins l'idée de prendre des précautions que l'ordre des priorités. Selon lui, la discussion sur une superintelligence hypothétique se transforme trop facilement en abstraction commode, alors que les systèmes existants de reconnaissance, de recommandation, de génération et d'évaluation du travail sont déjà intégrés à des mécanismes de contrôle, ici et maintenant. Ils influencent le recrutement, la productivité, la modération, l'accès à l'information et les relations entre l'État, les entreprises et les citoyens. Quand le pouvoir se concentre chez les géants de la tech et que l'État s'appuie volontiers sur leurs outils, le problème cesse de relever de la science-fiction : il devient politique, social et lié au travail.

Ce regard compte aussi parce qu'il change le vocabulaire du débat. À la question « comment sauver l'humanité d'une supermachine autonome » succède un ensemble de sujets plus concrets : qui possède les ressources de calcul, qui fixe les règles d'accès aux données, quels mécanismes d'audit fonctionnent réellement et qui est responsable des dommages causés par des décisions automatisées. C'est un agenda moins spectaculaire que les prédictions apocalyptiques, mais c'est lui qui détermine si la technologie va accentuer les inégalités ou servir l'intérêt général.

Telle est la conclusion pratique. Le débat sur l'avenir de l'IA est important, mais il ne doit pas remplacer la discussion sur la transparence des modèles, la responsabilité des plateformes, les droits des travailleurs et les limites de la surveillance numérique. Si l'attention du public reste braquée sur un scénario rare de catastrophe future, les entreprises et les pouvoirs publics disposeront d'encore plus de marge pour prendre des décisions qui dégradent la vie dès aujourd'hui.

Le texte propose une optique simple, mais dérangeante : la question principale n'est pas de savoir si l'IA deviendra un jour trop intelligente, mais qui utilise l'IA actuelle, dans l'intérêt de qui et avec quelles conséquences pour la société.