La RSI devient le nouvel objectif des labos d'IA, mais sa définition reste floue

L'auto-amélioration récursive évince rapidement l'AGI des agendas des laboratoires d'IA. Le concept reste aussi flou et insaisissable que son prédécesseur.

Qu'est-ce que la RSI

La RSI (Recursive Self-Improvement) est la capacité hypothétique d'un système d'IA à analyser et à améliorer son propre code sans intervention humaine. Le système devient de plus en plus puissant et capable, jusqu'à atteindre un point au-delà duquel l'humanité ne peut plus le contrôler ni comprendre ce qui s'est exactement passé.

En théorie, cela paraît simple et logique : s'améliorer, c'est travailler plus vite, plus précisément, plus efficacement et plus fiablement. En pratique, il est extrêmement difficile de dire si un système s'est réellement amélioré ou s'il a simplement gagné en assurance quant à ses capacités. Comment distinguer un vrai progrès d'une illusion de progrès ? Qui vérifie ?

Pourquoi l'AGI cède la place à la RSI

Il y a quelques années, l'AGI semblait l'aboutissement inévitable du développement de l'IA : une intelligence artificielle générale, proche de l'humain et universelle, capable de résoudre n'importe quelle tâche au niveau d'un humain ou au-delà. Mais la définition était trop nette et inatteignable, comme un horizon. Décennie après décennie, l'AGI a été repoussée toujours plus loin dans le futur.

La RSI propose une autre voie. Inutile d'attendre l'AGI : il suffit que le système apprenne à s'améliorer seul. C'est un objectif intermédiaire qui paraît à la fois plus réaliste et, pour les investisseurs et les politiques, plus effrayant.

Les avantages de la RSI sont évidents :

• Un objectif intermédiaire plus réaliste que l'AGI
• Il est plus facile de convaincre les investisseurs que le projet est viable
• Pas besoin d'attendre encore deux ou trois décennies
• On peut commencer dès maintenant par de petites étapes d'auto-amélioration
• Paraît moins menaçante que l'AGI

C'est pourquoi même les laboratoires conservateurs sont passés à la RSI dans leurs plans à long terme et leurs déclarations publiques.

Le problème de la définition (que personne ne résout)

Tout semblerait simple et clair. Mais c'est là que les problèmes commencent. Un chercheur parle d'auto-amélioration par l'optimisation des poids du réseau de neurones. Un autre pense au débogage automatique du code et à la correction des erreurs. Un troisième, à la reconstruction complète de l'architecture du modèle. Un quatrième dit simplement que le système devient meilleur dans sa tâche principale.

Chacun a raison, mais chacun parle de choses totalement différentes. Et tous emploient le même mot : RSI.

« Chacun entend quelque chose de différent par RSI.

C'est exactement ce qui se passait avec l'AGI il y a dix ans : un risque existentiel lié à quelque chose que personne ne sait définir. »

Quand la définition est floue, il devient impossible de fixer des objectifs concrets, de mesurer les progrès, voire d'évaluer le risque réel. Les laboratoires parlent de la RSI comme d'un objectif unique et d'une ligne d'arrivée unique, alors qu'il s'agit en réalité de dix projets différents sous un même nom.

Ce que cela signifie

La RSI n'est ni une intention malveillante ni un complot, mais le signe honnête que les laboratoires d'IA ont besoin d'une étape intermédiaire entre les LLM d'aujourd'hui et l'AGI philosophique. L'histoire se répète : quand un objectif vague (l'AGI) devient inatteignable, un autre (la RSI) naît. La question reste la même : comment mesurer ce qui n'est pas défini ? Comment gérer les risques de quelque chose qui peut désigner n'importe quelle action ?

Pour l'instant, il n'y a pas de meilleure réponse. En attendant, les laboratoires parlent de la RSI comme d'un problème déjà résolu.