Joshua Bengio et LawZero : pourquoi la peur de l'IA future détourne l'attention des menaces actuelles

Le débat sur l'avenir de l'intelligence artificielle se construit de plus en plus autour de scénarios dans lesquels les machines deviendraient un jour intelligentes et échapperaient au contrôle. Mais la thèse principale de ce texte est différente : il n'est pas nécessaire d'attendre une superintelligence hypothétique, car les risques clés de l'IA se sont déjà manifestés dans l'économie et la politique réelles. Il ne s'agit pas d'une révolte des machines, mais de la concentration du pouvoir, de la surveillance, de la pression sur les travailleurs et de l'utilisation des technologies dans l'intérêt de grandes structures.

L'auteur affirme directement qu'il ne considère pas les systèmes d'IA actuels comme intelligents et ne voit aucune raison de croire que des modèles statistiques impressionnants mèneront automatiquement à l'émergence d'une véritable intelligence. Par conséquent, il perçoit les conversations du type « que faire si l'IA devient consciente » soit comme une distraction commode, soit comme un cadre marketing qui permet de discuter de futures catastrophes spectaculaires au lieu des problèmes inconfortables du présent. D'où la référence au « pari de Pascal » : la peur d'un événement improbable mais grandiose commence à dicter l'agenda plus fortement que les conséquences déjà observées.

En même temps, la position de l'auteur ne se réduit pas à un technoptimisme inconditionnel. Au contraire, il reconnaît partager une partie des préoccupations des soi-disant catastrophistes de l'IA, mais voit la source de la menace non dans l'émergence de l'intelligence des machines, mais dans les personnes et les institutions qui gèrent déjà ces systèmes. Il craint que les outils numériques soient concentrés entre les mains de corporations dont l'échelle rend difficile le contrôle public.

Il craint que les technologies soient utilisées contre les utilisateurs et les travailleurs : pour intensifier la surveillance, automatiser la pression, durcir les métriques de productivité et déséquilibrer davantage l'équilibre des pouvoirs en faveur des employeurs et de l'État. C'est ici qu'émerge le conflit principal avec l'école la plus futuriste de la sécurité de l'IA. L'occasion en a été une discussion publique à Montréal, où l'auteur s'est exprimé aux côtés d'Astra Taylor et de Joshua Bengio.

Bengio, l'un des chercheurs les plus éminents en apprentissage profond, lauréat du prix Turing et scientifique dont les travaux ont contribué à façonner le boom actuel de l'IA. Il participe actuellement à l'initiative LawZero, qui propose de créer un consortium international et de développer l'IA en tant que bien numérique public : ouvert, transparent, vérifiable et sûr. Pour les partisans de cette approche, les risques à long terme sont suffisamment graves pour construire des institutions de protection à l'avance.

L'auteur, cependant, conteste moins l'idée même de prendre des précautions que l'ordre des priorités. Selon sa logique, la discussion sur une superintelligence hypothétique se transforme trop facilement en une abstraction commode, tandis que les systèmes existants de reconnaissance, de recommandation, de génération et d'évaluation du travail sont déjà intégrés dans les mécanismes de contrôle ici et maintenant. Ils influencent l'embauche, la productivité, la modération, l'accès à l'information et les relations entre l'État, les entreprises et les citoyens.

Lorsque le pouvoir se concentre entre les mains de géants technologiques, et que l'État s'appuie volontiers sur leurs outils, le problème cesse d'être de la science-fiction : il devient politique, social et du domaine du travail. Cette perspective est importante aussi parce qu'elle change le langage de la discussion elle-même. Au lieu de la question « comment sauver l'humanité d'une supermachine autonome », un ensemble de thèmes plus terre-à-terre émerge : qui possède les ressources informatiques, qui définit les règles d'accès aux données, quels mécanismes d'audit fonctionnent réellement et qui est responsable des dommages causés par les décisions automatisées.

C'est un agenda moins spectaculaire que les prévisions apocalyptiques, mais c'est précisément celui-ci qui détermine si les technologies intensifieront l'inégalité ou serviront l'intérêt public. Et c'est la conclusion pratique. Le débat sur l'avenir de l'IA est important, mais il ne devrait pas se substituer à la discussion sur la transparence des modèles, la responsabilité des plateformes, les droits des travailleurs et les limites de la surveillance numérique.

Si l'attention du public se concentre uniquement sur le rare scénario d'une catastrophe future, les corporations et les autorités auront encore plus d'espace pour des solutions qui aggravent déjà la vie aujourd'hui. Le texte offre une optique simple mais inconfortable : la question principale n'est pas si l'IA deviendra un jour trop intelligente, mais qui utilise l'IA actuelle, dans quels intérêts et avec quelles conséquences pour la société.