L'éthique de l'IA au MIT: le philosophe Brian Hedden tente d'inculquer la conscience aux algorithmes

Tandis que la Silicon Valley fonce en avant avec la devise « casse tout ce que tu vois », le MIT a décidé qu'il était temps d'ajouter un peu de sagesse adulte à ce cocktail. La nomination de Brian Hedden au poste de co-doyen pour l'éthique et la responsabilité sociale au Schwarzman College of Computing n'est pas simplement une autre ligne dans l'annuaire du personnel. C'est une reconnaissance officielle du fait que le code propre sans boussole morale devient aujourd'hui un outil aux conséquences imprévisibles. Hedden, étant un philosophe professionnel, rejoint la structure SERC (Social and Ethical Responsibilities of Computing) pour mettre de l'ordre dans la façon dont les technologies interagissent avec la société.

Pendant longtemps, l'éthique en informatique était quelque chose comme une électif—une addition agréable mais optionnelle à un cours sur les structures de données ou l'architecture des processeurs. On enseignait aux programmeurs à optimiser les boucles, mais on leur demandait rarement de se demander si leur modèle de reconnaissance faciale discriminait certains groupes de personnes. Maintenant, les règles du jeu ont changé.

Après que les algorithmes ont commencé à influencer directement les processus politiques, les diagnostics médicaux et même l'obtention d'un prêt, ignorer le « facteur humanitaire » est devenu tout simplement dangereux. Le MIT Schwarzman College, fondé en 2018 avec l'argent du milliardaire Steven Schwarzman, visait initialement une approche interdisciplinaire, et la nomination de Hedden est une continuation logique de cette stratégie.

Brian Hedden se spécialise dans l'épistémologie et la rationalité. Cela pourrait sembler être quelque chose de manuels poussiéreux, mais en fait c'est exactement ce qui est nécessaire pour déboguer les réseaux de neurones modernes. Comment prenons-nous des décisions ? Qu'est-ce que l'objectivité dans un monde où les données sont intrinsèquement biaisées ? Comment construire un système qui sera non seulement « efficace » mais aussi juste ? Le MIT a compris que ces questions ne pouvaient être répondues que par des correctifs et la mise à jour des bibliothèques Python. Il faut changer la façon de penser de ceux qui créent ces bibliothèques.

Avec son collègue Nicos Trichakis, Hedden mettra en œuvre des modules éthiques directement dans les disciplines techniques. L'idée est simple et à la fois ambitieuse : s'assurer qu'un étudiant écrivant du code pour un drone autonome ou un système de notation voie immédiatement les signaux d'alerte. C'est une tentative de cultiver une nouvelle génération d'ingénieurs qui cesseront de hausser les épaules et de dire : « Je fais juste du code, je ne suis pas responsable de son application. » Hedden devra expliquer aux technologues pourquoi la « performance » n'est pas le seul et loin d'être le KPI le plus important du monde moderne.

Le monde entier observe maintenant la course aux armements entre des géants comme OpenAI et Google. Dans cette précipitation, les considérations éthiques sont souvent sacrifiées au profit de la vitesse de mise en œuvre et de l'attraction d'investissements. La nomination d'un philosophe à un poste de direction à la plus grande université technique du monde est un signal puissant pour toute l'industrie. Le MIT veut être une référence non seulement dans la puissance des clusters informatiques, mais aussi dans la façon dont ces capacités serviront l'humanité au lieu de lui nuire. Si la meilleure université technique du monde mise sur la philosophie, cela signifie que l'ère de l'optimisme technologique irresponsable tire officiellement à sa fin.

Bien sûr, on pourrait noter avec scepticisme qu'un philosophe au décanat n'arrêtera pas les appétits des grandes entreprises et ne résoudra pas le problème des « boîtes noires » de l'IA. Cependant, l'approche systémique du MIT pourrait créer un précédent important. Si les grandes entreprises commencent à exiger que leurs employés comprennent non seulement les algorithmes mais aussi la responsabilité sociale, le paysage du développement changera à jamais. Nous pourrions voir plus de transparence et moins de foi aveugle dans l'infaillibilité des machines.

L'essentiel : L'éthique deviendra-t-elle un véritable filtre pour les technologies dangereuses ou restera-t-elle une belle vitrine pour les régulateurs ?