La commission du Lancet place l'IA malveillante et la guerre nucléaire en tête des menaces d'ici 2100

Une nouvelle commission mondiale a évalué 17 menaces catastrophiques pour la santé humaine au cours des 75 prochaines années. L'évaluation, dont fait état le Guardian, a été publiée par The Lancet. Deux points arrivent en tête de la liste : l'usage malveillant de l'IA et le conflit nucléaire. Selon les auteurs, chacun des deux peut conduire à l'extinction de l'humanité d'ici 2100. Pour chacune des 17 menaces, souligne la commission, il existe une « voie d'action réaliste ».

Ce que contient la liste

Le fragment publié ne donne qu'un aperçu général, mais il est parlant :

• Nombre de menaces : 17, toutes classées comme catastrophiques pour la santé humaine.
• Horizon : 75 ans, jusqu'en 2100.
• Risques les plus graves : l'usage malveillant de l'IA et le conflit nucléaire, tous deux susceptibles de provoquer l'extinction.
• Autres points : la réduction de l'aide au développement des pays riches, la crise climatique, la malnutrition infantile.
• Conclusion pour chaque risque : une voie d'action réaliste existe.

Le voisinage de ces points surprend. La malnutrition des enfants et la baisse des budgets d'aide ne ressemblent pas à des scénarios de fin du monde. Mais la commission mesure les menaces pour la santé, pas le caractère spectaculaire de la catastrophe. Des processus lents et ennuyeux, comme la baisse du financement de la santé dans les pays pauvres, peuvent tuer plus de personnes qu'un seul événement spectaculaire.

Pourquoi l'IA se retrouve à côté de l'arme nucléaire

La formulation « usage malveillant » est importante. Il ne s'agit pas d'une révolte des machines, mais d'humains qui utilisent l'IA pour nuire. L'article du Guardian ne détaille pas les scénarios retenus par la commission. Dans les discussions spécialisées sur les risques, on évoque généralement plusieurs pistes : l'aide à la création d'armes biologiques, les cyberattaques massives contre les infrastructures critiques, hôpitaux compris, la désinformation de masse et les systèmes d'armes autonomes. Quelles pistes la commission juge prioritaires, il faut le chercher dans le rapport complet.

Pour l'industrie, c'est un signal d'une autre nature que les déclarations habituelles des laboratoires. Ici, l'IA est évaluée sous l'angle de la santé publique et placée à côté d'une menace à laquelle l'humanité est habituée depuis 1945. Ce regard s'accorde mal avec la présentation de l'IA comme un ensemble de fonctionnalités produit. Il fait sortir le débat sur les risques de la rubrique « sécurité des modèles » pour l'amener dans celle des « menaces mondiales pour la santé », où interviennent d'autres régulateurs, d'autres budgets et d'autres publics.

Que faire de cette information

Premièrement : ne pas confondre le titre avec l'étude. La thèse de l'« extinction d'ici 2100 » sonne fort, mais le fragment publié ne présente ni la méthodologie, ni les probabilités, ni les hypothèses. Avant de citer cette évaluation, il convient de retrouver le rapport complet et de vérifier comment la commission a calculé les risques et d'où vient cet horizon de 75 ans.

Deuxièmement : prêter attention à la formule de « voie d'action réaliste ». Pour les développeurs et les entreprises, cela implique de vérifier l'usage malveillant : tests sur l'aide aux attaques biologiques et informatiques, restrictions d'accès aux modèles les plus puissants, journalisation des requêtes. Pour les régulateurs, il s'agit d'accords internationaux sur l'IA aux côtés du contrôle nucléaire. Pour les lecteurs ordinaires et les investisseurs, la conclusion est plus modeste : les sujets de sécurité de l'IA apparaîtront de plus en plus souvent dans les documents d'organisations qui ne travaillent pas sur la technologie. Il est utile de suivre ces publications, car ce sont elles qui font naître les futures normes et exigences.