Mo Gawdat, de Google X : pourquoi la principale menace de l'AI n'est pas liée au code, mais à l'éthique

Mo Ghadir, ancien directeur du développement commercial chez Google X, propose de voir l'IA non pas comme une menace isolée, mais comme un amplificateur de problèmes déjà existants dans la société. Selon sa version, les algorithmes interfèrent depuis longtemps dans les choix quotidiens des gens, et l'étape suivante est un coup à l'emploi, l'économie et les règles de distribution du pouvoir.

Algorithmes et Attention

Ghadir commence par une idée simple : l'intelligence artificielle n'est plus quelque part dans un laboratoire. Elle fonctionne dans les fils d'actualité, les recommandations, les systèmes publicitaires et la recherche, c'est-à-dire là où on décide exactement ce qu'une personne verra, lira et achètera. Même le choix du contenu se fait souvent inconsciemment—un modèle optimisé pour l'engagement le fait à la place de l'utilisateur. C'est pourquoi, selon lui, la conversation sur l'avenir de l'IA a trop tardé : l'influence est déjà intégrée dans l'environnement numérique quotidien.

De cela découle le changement principal. Il ne s'agit plus de savoir si l'IA peut faire des choses utiles, mais de savoir qui établit ses objectifs et quels incitations se cachent derrière ses actions. Si un système est entraîné à retenir l'attention à tout prix, il pousse inévitablement vers la polarisation, la dépendance au contenu et les réactions émotionnelles. La technologie agit ici non comme un méchant indépendant, mais comme un instrument précis des priorités humaines.

Travail et Système

La deuxième ligne de son argument est l'économie. Ghadir croit que dans certains secteurs, le chômage pourrait atteindre 50%, car l'IA automatise non seulement le travail routinier mais aussi une part significative du travail cognitif. Des fonctions qui étaient récemment considérées comme protégées sont menacées : l'analyse, le support, le marketing, les travaux juridiques préalables, une partie des tâches d'ingénierie et créatives.

Cela ne signifie pas nécessairement un effondrement immédiat, mais cela signifie une transition très difficile pour des millions de professionnels.

• Automatisation des cols blancs
• Pression sur les salaires dans les rôles de services
• Croissance des profits pour les propriétaires d'infrastructure
• Faible préparation des États à une transition rapide

De là découle une thèse plus radicale sur la crise du capitalisme sous sa forme actuelle. Si la productivité augmente mais que le revenu se concentre entre les mains d'un groupe restreint d'entreprises et d'investisseurs, le système commence à s'effondrer politiquement et socialement. La question n'est plus si l'IA sera plus efficace que les humains dans une opération spécifique, mais qui profitera de cette efficacité et comment le pouvoir économique sera redistribué.

L'Éthique comme Goulot d'Étranglement

La thèse la plus forte de Ghadir est que le problème ne réside pas dans la superintelligence en tant que telle, mais dans l'état des humains eux-mêmes au moment de son arrivée. Il décrit la situation ainsi : l'humanité apporte à une technologie historiquement puissante ses propres anciens défauts—avidité, manipulation, culte de la croissance et faibles contraintes morales. Dans une telle configuration, l'IA accélère non les meilleures qualités de la civilisation, mais ses distorsions. Plus l'outil est puissant, plus les mauvais motifs de son propriétaire sont dangereux.

"Le principal problème ne réside pas dans l'intelligence artificielle,

mais dans l'éthique humaine."

Cela change le cadre de toute la discussion. Au lieu du débat habituel sur le fait que les machines se "révolteront", Ghadir propose de discuter de choses plus pratiques : les règles de développement, la responsabilité des entreprises, la transparence des algorithmes et les nouveaux contrats sociaux. Sinon, la société obtiendra non un mal autonome de la science-fiction, mais un système entièrement humain qui accroît l'inégalité, la pression sur les travailleurs et le contrôle de l'attention plus rapidement que les institutions ne peuvent réagir.

Ce Que Cela Signifie

De telles affirmations ne fournissent pas une prévision prête avec des dates spécifiques, mais elles fixent certainement un changement : la conversation sur l'IA s'éloigne de l'enthousiasme pour les nouveaux modèles vers des questions de pouvoir, de distribution de l'argent et de qualité des décisions humaines. Si l'éthique et la régulation ne rattrapent pas la technologie, les principaux risques seront créés non pas par la machine elle-même, mais par les gens qui gèrent déjà ses objectifs.