Éthique de l'IA au MIT : le philosophe Brian Hedden va tenter de donner une conscience aux algorithmes

Alors que la Silicon Valley fonce avec pour devise « cassez tout ce qui bouge », le MIT a décidé qu'il était temps d'ajouter à ce cocktail une dose de discernement adulte. La nomination de Brian Hedden au poste de co-doyen chargé de l'éthique et de la responsabilité sociale au Schwarzman College of Computing n'est pas une simple ligne de plus dans l'organigramme. C'est la reconnaissance officielle du fait qu'un code pur, sans boussole morale, devient aujourd'hui un outil aux conséquences imprévisibles. Hedden, philosophe de métier, rejoint le SERC (Social and Ethical Responsibilities of Computing) pour remettre de l'ordre dans la manière dont la technologie interagit avec la société.

Pendant longtemps, l'éthique en informatique a fait figure d'option : un complément sympathique, mais facultatif, à un cours de structures de données ou d'architecture des processeurs. On apprenait aux programmeurs à optimiser des boucles, mais on leur demandait rarement de se demander si leur modèle de reconnaissance faciale discriminait certains groupes de personnes. Les règles du jeu ont changé. Depuis que les algorithmes influencent directement les processus politiques, les diagnostics médicaux et même l'octroi d'un crédit, ignorer le « facteur humain » est devenu tout simplement dangereux. Le MIT Schwarzman College, créé en 2018 grâce à l'argent du milliardaire Stephen Schwarzman, visait dès l'origine une approche interdisciplinaire, et la nomination de Hedden prolonge logiquement cette stratégie.

Brian Hedden est spécialiste d'épistémologie et de rationalité. Cela peut sonner comme du vieux manuel poussiéreux, mais c'est précisément ce qu'il faut pour déboguer les réseaux de neurones actuels. Comment prenons-nous des décisions ? Qu'est-ce que l'objectivité dans un monde où les données sont biaisées dès le départ ? Comment construire un système qui soit non seulement « efficace », mais aussi juste ? Au MIT, on a compris que ces questions ne se règlent pas uniquement avec des patchs et des mises à jour de bibliothèques Python. Il faut changer la façon de penser de ceux qui créent ces bibliothèques.

Avec son collègue Nikos Trichakis, Hedden va intégrer des modules d'éthique directement dans les disciplines techniques. L'idée est à la fois simple et ambitieuse : faire en sorte que l'étudiant qui écrit du code pour un drone autonome ou un système de scoring repère immédiatement les signaux d'alerte. Il s'agit de former une nouvelle génération d'ingénieurs qui cesseront de hausser les épaules en disant : « Je ne fais qu'écrire du code, je ne suis pas responsable de son usage. » Hedden devra expliquer aux techniciens pourquoi la « performance » n'est pas le seul KPI qui compte dans le monde moderne, et de loin pas le plus important.

Le monde entier observe aujourd'hui la course aux armements entre des géants comme OpenAI et Google. Dans cette précipitation, les considérations éthiques sont souvent sacrifiées à la vitesse de sortie et à la levée de fonds. Placer un philosophe à un poste de direction dans la première université technique de la planète est un signal fort envoyé à toute l'industrie. Le MIT veut devenir une référence non seulement pour la puissance de ses clusters de calcul, mais aussi pour la manière dont cette puissance servira l'humain au lieu de lui nuire. Si la meilleure université technique du monde mise sur la philosophie, l'ère du techno-optimisme irresponsable touche officiellement à sa fin.

On peut bien sûr objecter, avec scepticisme, qu'un seul philosophe au décanat n'arrêtera pas les appétits des entreprises et ne résoudra pas le problème des « boîtes noires » de l'IA. Pourtant, l'approche systémique du MIT peut créer un précédent important. Si les grandes entreprises se mettent à exiger de leurs employés non seulement la maîtrise des algorithmes, mais aussi une compréhension de la responsabilité sociale, le paysage du développement changera durablement. Nous pourrions voir plus de transparence et moins de foi aveugle dans l'infaillibilité des machines.

L'enjeu : l'éthique deviendra-t-elle un véritable filtre pour les technologies dangereuses, ou restera-t-elle une belle vitrine pour les régulateurs ?