Rapport international de sécurité: l'IA apprend à pirater et à se faire des amis

Te souviens-tu de comment, lors du premier sommet mondial sur la sécurité de l'IA en 2023, tout le monde discutait de la domination mondiale hypothétique par les Terminators ? Un an plus tard, la rhétorique des principaux scientifiques s'était décalée vers quelque chose de bien plus terre à terre et donc terrifiant. Yoshua Bengio, l'un des "parrains" de l'apprentissage profond moderne, a présenté un rapport actualisé qui ressemble davantage à un bulletin de front qu'à un examen académique tranquille.

Il a été rejoint dans le document par des poids lourds tels que Geoffrey Hinton et le lauréat du prix Nobel Daron Acemoglu. Quand des gens d'un tel calibre s'unissent pour déclarer des "défis alarmants", les ignorer devient pour le moins présomptueux.

L'accent principal du document s'est déplacé de l'avenir lointain à notre "demain." Le problème clé aujourd'hui n'est pas seulement que l'IA pourrait soudainement acquérir la conscience et lancer des missiles nucléaires, mais la facilité avec laquelle elle a appris à manipuler notre réalité. Les deepfakes sont devenus si bon marché et de si haute qualité dans leur production que le concept même de "preuve" dans l'environnement numérique mourra bientôt complètement. Nous entrons dans une ère où n'importe quelle vidéo ou audio peut être générée pour des centimes, ouvrant des possibilités illimitées de fraude et de manipulation politique à une échelle qui aurait auparavant nécessité le travail de services de renseignement entiers.

Mais si nous nous attendions d'une certaine façon à des vidéos falsifiées, le boom des compagnons IA est devenu pour les auteurs du rapport une cause de préoccupation distincte. Nous nous trouvons au seuil d'une expérience sociale à grande échelle où les algorithmes commencent à remplacer les amis, les interlocuteurs et même les partenaires romantiques des gens. Bengio et ses collègues soulignent que nous n'avons aucune idée de la manière dont cela affectera la psyché des gens et le tissu social de la société au cours des cinq à dix prochaines années.

Quand votre "meilleur ami" est un modèle optimisé dont l'objectif est de retenir votre attention à tout prix, les relations humaines risquent de devenir quelque chose de secondaire et trop compliqué.

L'aspect technologique de la question n'inspire pas non plus l'optimisme. Les modèles apprennent à trouver des vulnérabilités dans le code logiciel plus rapidement que les développeurs ne peuvent les corriger. Cela transforme la cybercriminalité d'un métier de personnes hautement qualifiées en production de masse. Si auparavant la réalisation d'une attaque complexe nécessitait des mois de préparation et une équipe de pirates, il suffit désormais d'une invite correctement formulée et de quelques minutes. L'IA n'est pas seulement en train d'aider à écrire du code, elle démocratise le piratage, le rendant accessible à quiconque a accès à une API.

L'aspect économique du rapport était supervisé par Daron Acemoglu, qui avertit depuis longtemps contre les risques d'une automatisation excessive. Il souligne que l'IA ne se contente pas simplement de "créer de nouveaux emplois", comme les entreprises aiment à le dire dans leurs communiqués de presse. Elle modifie radicalement la structure du marché du travail, souvent pas en faveur du travailleur. Le problème n'est pas le chômage total, mais une baisse nette de la valeur du travail humain. Quand un algorithme exécute une tâche en fractions de seconde, il devient de plus en plus difficile pour une personne de justifier son salaire dans l'ancien modèle économique, ce qui mène inévitablement à une augmentation des inégalités.

Ce rapport n'est pas une tentative de mettre les freins et d'arrêter le progrès, mais plutôt un appel désespéré aux régulateurs de se réveiller. Les géants technologiques se précipitent vers l'avant, poussés par une course aux armements et des rapports trimestriels, tandis que les préoccupations liées à la sécurité restent souvent en retrait comme un "obstacle regrettable à l'innovation." Pendant que nous nous réjouissons de la façon dont un réseau de neurones écrit élégamment de la poésie ou dessine des chatons, il apprend simultanément à contourner les systèmes de sécurité et à manipuler l'opinion publique.

Le point clé : Nous passons d'une phase d'émerveillement enfantin à une phase de gueule de bois difficile. La sécurité de l'IA aujourd'hui, ce n'est pas de combattre les robots tueurs, mais de protéger notre capacité à distinguer la vérité du mensonge et de préserver les connexions humaines dans un monde où un algorithme est toujours prêt à devenir votre "meilleur ami" le plus compréhensif, mais profondément faux. Parviendrons-nous à établir les règles du jeu à temps, ou le génie technologique a-t-il déjà quitté définitivement la lampe?