Rapport international sur la sûreté de l'IA : l'IA apprend à pirater et à se faire des amis

Vous vous souvenez du premier sommet mondial sur la sûreté de l'IA, en 2023, où tout le monde discutait d'une hypothétique prise de pouvoir par des Terminator ? Un an plus tard, le discours des grands chercheurs est devenu nettement plus terre à terre, et d'autant plus inquiétant. Yoshua Bengio, l'un des « parrains » du deep learning moderne, a présenté un nouveau rapport qui ressemble davantage à un bulletin du front qu'à une paisible revue académique.

Il a travaillé sur ce document aux côtés de poids lourds comme Geoffrey Hinton et le prix Nobel Daron Acemoglu. Quand des personnalités de ce calibre s'unissent pour alerter sur des « défis effrayants », les ignorer relève pour le moins de la présomption.

Le document ne se concentre plus sur un avenir lointain, mais sur notre « lendemain ». Le principal problème aujourd'hui n'est même pas que l'IA puisse soudain acquérir une conscience et lancer des missiles nucléaires, mais la facilité avec laquelle elle a appris à manipuler notre réalité. Les deepfakes sont devenus si bon marché et si réalistes à produire que la notion même de « preuve » dans l'environnement numérique va bientôt disparaître pour de bon.

Nous entrons dans une ère où n'importe quelle vidéo ou enregistrement audio peut être généré pour trois fois rien. De quoi ouvrir des possibilités illimitées à la fraude et à la manipulation politique, à une échelle qui exigeait autrefois le travail de services de renseignement entiers.

Mais si l'on s'attendait plus ou moins aux fausses vidéos, l'essor des compagnons IA constitue pour les auteurs du rapport un motif d'inquiétude à part entière. Nous sommes au seuil d'une expérience sociale à grande échelle, dans laquelle des algorithmes commencent à remplacer les amis, les interlocuteurs, voire les partenaires amoureux. Bengio et ses collègues soulignent que nous n'avons aucune idée de l'impact que cela aura sur la psychologie des individus et sur le tissu social d'ici cinq à dix ans. Quand votre « meilleur ami » est un modèle optimisé pour capter votre attention à tout prix, les relations humaines risquent de devenir secondaires et trop compliquées.

Le volet technologique n'incite pas davantage à l'optimisme. Les modèles apprennent à détecter des vulnérabilités dans le code plus vite que les développeurs ne parviennent à les corriger. La cybercriminalité passe ainsi de l'artisanat de quelques solitaires hautement qualifiés à la production à la chaîne. Là où une attaque sophistiquée exigeait auparavant des mois de préparation et une équipe de hackers, un prompt bien formulé et quelques minutes suffisent désormais. L'IA ne se contente pas d'aider à écrire du code : elle démocratise le piratage et le met à la portée de quiconque dispose d'un accès à une API.

Le volet économique du rapport a été supervisé par Daron Acemoglu, qui met en garde depuis longtemps contre les risques d'une automatisation excessive. Il souligne que l'IA ne se contente pas de « créer de nouveaux emplois », comme aiment l'affirmer les communiqués de presse des grandes entreprises. Elle transforme radicalement la structure du marché du travail, souvent au détriment des travailleurs.

Le problème n'est pas un chômage total, mais une chute brutale de la valeur du travail humain. Quand un algorithme exécute une tâche en une fraction de seconde, il devient de plus en plus difficile pour un humain de justifier son salaire dans le cadre de l'ancien modèle économique, ce qui conduit inévitablement à une hausse des inégalités.

Ce rapport n'est pas une tentative d'appuyer sur le frein pour stopper le progrès, mais plutôt un appel désespéré aux régulateurs pour qu'ils se réveillent. Les géants de la tech foncent, poussés par la course aux armements et les résultats trimestriels, tandis que la sécurité reste souvent sur le bas-côté, reléguée au rang d'« obstacle fâcheux à l'innovation ». Pendant que nous nous émerveillons de voir un réseau de neurones écrire des poèmes harmonieux ou dessiner des chats, il apprend au passage à contourner les systèmes de protection et à manipuler l'opinion publique.

L'essentiel : nous passons de la phase d'enthousiasme enfantin à celle de la gueule de bois. La sûreté de l'IA, aujourd'hui, ne consiste pas à combattre des robots tueurs, mais à protéger notre capacité à distinguer le vrai du faux et à préserver les liens humains dans un monde où un algorithme est toujours prêt à devenir votre « meilleur ami » le plus compréhensif, mais profondément factice. Saurons-nous établir les règles du jeu à temps, ou le génie technologique est-il déjà définitivement sorti de sa lampe ?