Stuart Russell redoute une course aux armements dans le développement de l'AGI

Stuart Russell, l'un des principaux spécialistes de la sécurité de l'IA, a témoigné dans le procès intenté par Elon Musk contre OpenAI. Russell s'y pose en lanceur d'alerte : il craint que la compétition pour le leadership dans le développement de l'AGI ne déclenche une course aux armements, où les entreprises sacrifieraient la sécurité au profit de la vitesse.

Qui est Russell et pourquoi sa parole compte

Stuart Russell est professeur d'intelligence artificielle à l'université de Californie à Berkeley. Son manuel d'IA fait référence dans les universités du monde entier, et depuis plus de 30 ans, il s'intéresse non pas aux aspects techniques de l'IA, mais à ses enjeux philosophiques et de sécurité. Russell fait partie des rares experts écoutés à la fois par les scientifiques, les responsables politiques et les dirigeants d'entreprise.

Parmi les nombreuses voix qui alertent sur les dangers de l'AGI, Russell se distingue par sa rigueur académique. Sa participation à la procédure contre OpenAI marque un rare moment où il prend une position ouvertement politique.

Une course aux armements sans régulation

Dans son témoignage, Russell soutient qu'en l'absence de contrôle étatique, on assiste à une situation classique de course aux armements. Par peur de se faire distancer par leurs concurrents, les entreprises raccourcissent les délais des tests de sécurité, abaissent leurs exigences de validation des modèles et se précipitent pour les publier.

Ce n'est pas un complot, c'est un problème structurel du marché, — dit en substance

Russell. — Chaque entreprise agit logiquement dans son propre intérêt, mais le résultat collectif est dangereux pour tous.

La course aux armements dans l'AGI se distingue de sa version classique par des enjeux plus élevés : il s'agit de systèmes susceptibles de dépasser l'intelligence humaine. Une erreur lors du déploiement d'un tel système pourrait être irréversible à l'échelle mondiale.

Les principaux arguments de Russell :

• Les entreprises rognent sur les tests de sécurité
• Les investisseurs et les actionnaires poussent à accélérer le développement
• Il n'existe aucun accord international sur les normes
• Le leader du marché peut imposer ses conditions sans craindre de sanctions

La solution selon Russell

Russell ne se contente pas de critiquer le statu quo. Il propose des mesures concrètes : des licences d'État pour les développeurs de modèles de pointe (à l'image des licences des centrales nucléaires), des audits de sécurité indépendants avant toute publication, des normes internationales et une transparence obligatoire sur les méthodes d'entraînement.

Ce dispositif rappelle la régulation du nucléaire ou de l'industrie pharmaceutique, des domaines où une erreur a des conséquences mondiales. Russell propose d'appliquer au développement de l'AGI des outils éprouvés dans d'autres secteurs à haut risque.

Ce que cela signifie

La question de savoir si le marché peut s'autoréguler dans le développement de l'AGI n'est plus seulement académique : elle arrive devant les tribunaux et pèse sur les politiques publiques. Russell défend l'idée que, sans intervention, la logique concurrentielle mènera inévitablement à des erreurs critiques. Le tribunal, puis les décideurs politiques, l'entendront-ils ? L'avenir du secteur en dépend.