Meta fonce vers la superintelligence : un environnement RL et une montée en puissance de calcul sans précédent

Meta investit dans le développement de la superintelligence via un partenariat avec l'environnement de RL d'une start-up et une hausse sans précédent de sa capacité de calcul. Selon les analystes de SemiAnalysis, c'est le compute ramp le plus agressif de l'histoire de l'industrie, et l'entreprise joue clairement le long terme dans la course à l'intelligence artificielle générale.

L'environnement de RL : la clé de l'AGI

Meta soutient ou a racheté une start-up qui a conçu un environnement d'apprentissage par renforcement (RL) : un espace où des agents d'IA apprennent par essais et erreurs, comme une personne qui apprend à faire du vélo ou à jouer à un jeu vidéo. C'est différent des LLM auxquels nous sommes habitués, qui se contentent de prédire le prochain token de texte.

Pourquoi est-ce important ? Parce que la superintelligence ne peut très probablement pas être atteinte uniquement avec des tokens de texte. Un agent doit interagir avec un environnement, recevoir des retours et tester différentes stratégies. Les environnements de RL sont précisément ce qu'exige ce type d'entraînement.

Passer à l'échelle les environnements de RL est l'un des problèmes d'ingénierie les plus ardus de l'IA. Meta a manifestement investi dans cette start-up parce qu'elle y voit un composant critique de la future architecture de la superintelligence.

Le bond du calcul : une échelle sans précédent

Meta étend sa capacité de calcul de façon si agressive que SemiAnalysis, pourtant habituée au rythme rapide du secteur, parle de phénomène. L'infrastructure se déploie sur une étendue géographique de plus de 2000 km, soit plus que la distance entre Moscou et Vladivostok.

Une telle échelle suppose un entraînement distribué : des clusters de GPU répartis dans différentes régions, voire différents pays, doivent se synchroniser en temps réel. Cela impose de résoudre des problèmes classiques :

• Latence réseau entre les nœuds
• Cohérence des données en cas de panne de nœuds
• Optimisation de la bande passante
• Refroidissement et alimentation électrique à cette échelle

Les ingénieurs de Meta doivent aussi repenser l'architecture même des modèles pour qu'elle résiste aux latences réseau. Ce n'est pas simplement du passage à l'échelle : c'est un niveau de complexité d'infrastructure qualitativement nouveau.

Ce que disent les experts

Selon SemiAnalysis, ce mouvement signale aux autres laboratoires que la course à la superintelligence ne se joue pas seulement sur les algorithmes et les données, mais sur la puissance de calcul. Ceux qui ne pourront pas monter en puissance aussi agressivement risquent de prendre des années de retard sur Meta.

L'article contient aussi une mise en garde pour Google DeepMind, qui prend pour l'instant les environnements de RL moins au sérieux : cela pourrait être une erreur stratégique. Google DeepMind a offert au monde AlphaGo, un agent de RL qui a joué au go mieux que les champions du monde. Mais ces dernières années, DeepMind a recentré son attention sur les grands modèles de langage. Si Google rate la vague du passage à l'échelle du RL, il pourrait perdre la course à l'AGI.

Ce que cela signifie

Les LLM textuels pourraient n'être qu'une étape de transition, et non l'architecture finale de l'AGI. Meta parie que l'avenir appartient aux agents de RL qui apprennent à interagir avec le monde réel (ou simulé). Cela exige un calcul colossal, mais le gain potentiel, l'AGI, justifie l'investissement.

Pour le reste de l'industrie, le message est clair : si vous prenez l'AGI au sérieux, le calcul n'est pas un sujet annexe, mais le centre du développement. Meta a déjà franchi ce cap de prise de conscience et passe à l'action.

*Meta est reconnue comme organisation extrémiste et interdite en Russie.