La RSI est devenue le nouvel objectif des laboratoires d'IA, mais sa définition reste floue

L'amélioration récursive déplace rapidement l'AGI des agendas des laboratoires d'IA. Le concept reste tout aussi flou et insaisissable que son prédécesseur.

Qu'est-ce que la RSI ?

La RSI (Recursive Self-Improvement) est la capacité hypothétique d'un système d'IA à analyser et améliorer son propre code sans intervention humaine. Le système devient de plus en plus puissant et capable, jusqu'à atteindre un point au-delà duquel l'humanité ne pourrait plus le contrôler ou comprendre ce qui s'est réellement passé.

En théorie, c'est simple et logique : s'améliorer signifie fonctionner plus rapidement, plus précisément, plus efficacement et de manière plus fiable. En pratique, déterminer si un système s'est réellement amélioré ou s'est simplement senti plus confiant dans ses capacités s'avère extrêmement difficile. Comment distinguer le progrès réel de l'illusion du développement ? Qui vérifie ?

Pourquoi l'AGI cède la place à la RSI

Il y a quelques années, l'AGI semblait être l'aboutissement inévitable du développement de l'IA. L'intelligence artificielle générale — une IA à l'image de l'homme, universelle et capable de résoudre n'importe quelle tâche au niveau humain ou au-delà. Mais la définition était trop précise et inatteignable, comme un horizon. Décennie après décennie, l'AGI s'éloignait de plus en plus dans l'avenir.

La RSI offre une autre voie. Il n'est pas nécessaire d'attendre l'AGI — il suffit que le système apprenne à s'améliorer lui-même. C'est un objectif intermédiaire qui semble à la fois plus réaliste et plus inquiétant pour les investisseurs et les politiciens.

Les avantages de la RSI sont évidents :

• Un objectif intermédiaire plus réaliste que l'AGI
• Plus facile de convaincre les investisseurs de la viabilité du projet
• Ne nécessite pas d'attendre encore deux ou trois décennies
• On peut déjà commencer par de petites étapes d'auto-amélioration
• Semble moins menaçant que l'AGI

C'est pourquoi même les laboratoires les plus conservateurs sont passés à la RSI dans leurs plans à long terme et leurs déclarations publiques.

Le problème de la définition (que personne ne résout)

On pourrait penser que tout est simple et clair. Mais c'est là que les problèmes commencent. Un chercheur parle d'auto-amélioration par optimisation des poids du réseau de neurones. Un autre parle de débogage automatique du code et de correction des erreurs. Un troisième évoque la reconstruction complète de l'architecture du modèle. Un quatrième dit simplement que le système devient meilleur dans sa tâche principale. Chacun d'eux a raison, mais chacun parle de choses complètement différentes. Et pourtant, tous l'appellent d'un seul mot : RSI.

« Chacun comprend quelque chose de différent par RSI.

C'est exactement ce qui s'est passé avec l'AGI il y a dix ans — un risque existentiel de quelque chose que personne ne peut définir ».

Quand la définition est floue, il devient impossible de fixer des objectifs concrets, de mesurer les progrès ou même d'évaluer le risque réel. Les laboratoires parlent de la RSI comme s'il s'agissait d'un objectif unique et d'une ligne d'arrivée unique, alors qu'en réalité, il s'agit de dix projets différents qui portent tous le même nom.

Qu'est-ce que cela signifie ?

La RSI n'est ni un complot mauvais ni une conspiration, mais un aveu honnête que les laboratoires d'IA ont besoin d'une étape intermédiaire entre les LLM actuels et l'AGI philosophique. L'histoire se répète : quand un objectif indéfini (l'AGI) devient inatteignable, un autre (la RSI) naît. La question reste la même : comment mesurer ce qui n'est pas défini ? Comment gérer les risques de quelque chose qui pourrait signifier n'importe quoi ? Pour l'instant, il n'y a pas de meilleure réponse à cette question. Et pendant ce temps, les laboratoires parlent de la RSI comme si c'était un problème déjà résolu.