L'IA apprend à se construire elle-même : Google DeepMind et OpenAI sur la voie de l'auto-amélioration

En 1966, le mathématicien Irving Good prédisait qu'une machine superintelligente pourrait créer des machines encore plus intelligentes, déclenchant une « explosion d'intelligence ». Cette science-fiction devient aujourd'hui réalité : OpenAI, Google DeepMind et Anthropic utilisent déjà l'IA pour concevoir des versions plus avancées d'elles-mêmes.

L'IA commence à s'écrire elle-même

OpenAI a récemment indiqué que GPT-5.3-Codex participe activement à sa propre amélioration. Le modèle écrit le code de son entraînement, débogue le processus d'apprentissage, pilote le déploiement et analyse les résultats des évaluations. En clair, il s'aide lui-même à progresser.

Anthropic est allée plus loin : la majeure partie du code de Claude (son principal assistant IA pour la programmation) est désormais écrite par Claude lui-même. Une boucle étrange se met en place : l'IA s'améliore elle-même, mais les humains restent dans la boucle pour vérifier les résultats et prendre les décisions.

Google DeepMind a présenté AlphaEvolve, un agent dédié à la « découverte scientifique et algorithmique ». Le système peut optimiser des architectures de réseaux neuronaux, améliorer la répartition des tâches dans les data centers et perfectionner la conception de puces. Chacune de ces avancées permet aux chercheurs d'atteindre plus vite la suivante.

« Souvent, on regarde ce que le système a découvert et on apprend de cette découverte », explique Matej Balog, de DeepMind. Le système a déjà surpris ses concepteurs en trouvant des algorithmes d'optimisation qui échappaient à l'intuition humaine.

Deux des créateurs d'AlphaChip (un système de conception de puces) ont fondé la startup Recursive Intelligence. Ils promettent de ramener le cycle de développement d'une puce d'un ou deux ans à quelques jours. Dans une troisième phase, l'entreprise prévoit d'utiliser l'IA pour créer des puces capables de mieux entraîner la génération suivante d'IA.

Pourquoi ça ne décolle pas encore

Malgré des succès impressionnants, une IA totalement indépendante des humains reste lointaine. Les chercheurs notent que les systèmes actuels génèrent des idées et les mettent en œuvre à un niveau « bon, mais pas excellent ».

Voici ce qui freine le processus :

• Les humains fixent toujours les objectifs et décident de ce qui constitue un succès
• L'entraînement des modèles de pointe coûte des milliards : personne ne laissera un tel système sans surveillance
• Dans les grandes entreprises, le savoir est réparti entre des milliers de personnes (TSMC emploie 90,000 personnes) et ne peut pas être condensé dans un seul algorithme
• Une automatisation complète exigerait non seulement du code et des puces, mais aussi la construction de data centers et de centrales électriques, ainsi que l'extraction de ressources minérales

Des chercheurs de Meta proposent une autre voie : plutôt qu'une automatisation totale, viser une « co-amélioration » de l'humain et de la machine. En restant dans la boucle de développement, les humains garantissent à la fois la vitesse du progrès et sa sécurité.

Cela peut-il échapper à tout contrôle ?

Une enquête menée auprès de 25 experts de premier plan en IA montre que 23 d'entre eux n'excluent pas une « explosion d'intelligence » en cas d'automatisation complète du développement. La plupart estiment que les entreprises garderont ces modèles secrets, sans les rendre publics.

David Krueger, chercheur à Montréal et partisan d'une pause dans le développement de l'IA, dresse un tableau sombre :

« C'est un pari sur la vie de tous les êtres humains. »

Il propose d'arrêter le développement de l'IA dès que 99% du code sera écrit par une machine. « On dirait que nous approchons de ce moment en ce moment même », ajoute-t-il.

Ce que cela signifie

Nous sommes à l'aube d'une ère où l'IA commence réellement à accélérer son propre développement. Cela pourrait mener à des percées médicales, scientifiques et technologiques. Mais cela exige aussi une surveillance stricte, de la part des régulateurs internationaux comme des entreprises elles-mêmes. L'histoire le montre : les technologies puissantes ont besoin de limites.

*Meta est reconnue comme organisation extrémiste et interdite en Russie.