Mo Gawdat, de Google X : la principale menace de l'IA tient à l'éthique, pas au code

Mo Gawdat, ancien directeur du développement commercial de Google X, propose de voir l'IA non comme une menace à part, mais comme un amplificateur de problèmes que la société connaît déjà. Selon lui, les algorithmes interfèrent depuis longtemps dans les choix quotidiens des gens, et l'étape suivante est un coup porté à l'emploi, à l'économie et aux règles de répartition du pouvoir.

Algorithmes et attention

Gawdat part d'une idée simple : l'intelligence artificielle n'est plus quelque part dans un laboratoire. Elle fonctionne dans les fils d'actualité, les recommandations, les systèmes publicitaires et les moteurs de recherche, c'est-à-dire là où se décide ce qu'une personne verra, lira et achètera. Même le choix d'un contenu se fait souvent de manière inconsciente : c'est un modèle optimisé pour l'engagement qui le fait à la place de l'utilisateur. Le débat sur l'avenir de l'IA, à ses yeux, arrive donc trop tard : l'influence est déjà intégrée à l'environnement numérique quotidien.

De là découle le principal changement. La question n'est plus de savoir si l'IA saura faire des choses utiles, mais qui fixe ses objectifs et quelles incitations motivent ses actions. Si un système est entraîné à retenir l'attention à tout prix, il pousse inévitablement vers la polarisation, la dépendance au contenu et les réactions émotionnelles. Ici, la technologie n'est pas un méchant autonome, mais un instrument précis des priorités humaines.

Travail et système

Le deuxième volet de son argumentation est économique. Gawdat pense que, dans certains secteurs, le chômage pourrait atteindre 50 %, car l'IA automatise non seulement le travail routinier, mais aussi une part notable du travail cognitif. Des fonctions longtemps jugées protégées sont menacées : analyse, support, marketing, travail juridique de première ligne, une partie des tâches d'ingénierie et de création. Cela ne signifie pas forcément un effondrement immédiat, mais cela signifie une transition très rude pour des millions de professionnels.

• Automatisation des emplois de bureau
• Pression sur les salaires dans les métiers de services
• Hausse des profits des propriétaires d'infrastructures
• Faible préparation des États à une transition rapide

D'où la thèse plus radicale d'une crise du capitalisme sous sa forme actuelle. Si la productivité augmente tandis que les revenus se concentrent chez un petit groupe d'entreprises et d'investisseurs, le système commence à se fissurer politiquement et socialement. La question n'est plus de savoir si l'IA sera plus efficace que l'humain dans une opération donnée, mais qui tirera profit de cette efficacité et comment le pouvoir économique sera redistribué.

L'éthique, goulot d'étranglement

La thèse la plus dure de Gawdat est que le problème n'est pas la superintelligence en soi, mais l'état des humains eux-mêmes au moment de son apparition. Il décrit la situation ainsi : l'humanité apporte à une technologie historiquement puissante ses propres vieux défauts : cupidité, manipulation, culte de la croissance et garde-fous moraux faibles. Dans ce schéma, l'IA accélère non pas les meilleures qualités de la civilisation, mais ses déséquilibres. Plus l'outil est puissant, plus les mauvaises intentions de son propriétaire sont dangereuses.

«

Le principal problème n'est pas l'intelligence artificielle, mais l'éthique humaine. »

Cela change le cadre de tout le débat. Au lieu de la discussion habituelle sur une éventuelle « rébellion » des machines, Gawdat propose d'aborder des sujets plus concrets : règles de développement, responsabilité des entreprises, transparence des algorithmes et nouveaux contrats sociaux. Sinon, la société n'héritera pas d'un mal autonome tout droit sorti de la science-fiction, mais d'un système bien humain, qui amplifie les inégalités, la pression sur les travailleurs et le contrôle de l'attention plus vite que les institutions ne peuvent réagir.

Ce que cela signifie

De telles déclarations ne donnent pas de prévision datée, mais elles actent bien un basculement : la conversation sur l'IA s'éloigne de l'enthousiasme pour les nouveaux modèles et se rapproche des questions de pouvoir, de répartition de l'argent et de qualité des décisions humaines. Si l'éthique et la régulation ne rattrapent pas la technologie, les principaux risques ne viendront pas de la machine elle-même, mais des personnes qui contrôlent déjà ses objectifs.