La course à l'AGI : Hassabis et Amodei débattent de la date de la fin du monde tel que nous le connaissons

Dans les montagnes suisses, où sont généralement décidés les destins de l'économie mondiale, on a cette fois tenté de comprendre quand cette même économie cesserait d'être une affaire purement humaine. À Davos, un événement que l'industrie attendait depuis longtemps s'est produit : Demis Hassabis de Google DeepMind et Dario Amodei d'Anthropic se sont assis à la même table. Le modérateur, sans épargner le pathos, les a comparés aux Beatles et aux Rolling Stones.

La comparaison cloche, car contrairement aux rock stars, ces deux-là ne discutent pas de classements, mais tentent de calculer la date à laquelle l'intelligence artificielle nous rattrapera ou nous dépassera. Le thème a été annoncé ambitieusement : « Le Jour Après l'AGI. » Mais avant de planifier le petit-déjeuner dans un monde de superintelligence, nous devons comprendre quand cet aube arrivera.

Le contexte est plus important ici que les paroles elles-mêmes. Il y a quelques années à peine, le terme AGI (intelligence générale artificielle) était considéré comme le domaine des nerds et des auteurs de science-fiction. Aujourd'hui, c'est un poste dans les rapports trimestriels des plus grandes corporations mondiales.

Hassabis, l'homme qui a essentiellement lancé la vague moderne d'IA en acquérant DeepMind pour Google, a toujours été un optimiste prudent. Il construit des systèmes qui jouent au Go, prédisent les structures de protéines et tentent maintenant de raisonner. Sa vision de l'AGI est celle d'un outil qui résoudra des problèmes en physique et en biologie.

Pour lui, c'est une évolution, bien qu'extrêmement rapide. Il y voit un puissant levier qui aidera l'humanité à faire face à ce que nous ne pouvons pas nous-mêmes gérer.

Dario Amodei d'Anthropic joue un jeu différent. Son entreprise est née d'une scission chez OpenAI précisément sur les questions de sécurité. Si Hassabis est un ingénieur-chercheur, alors Amodei est un homme qui regarde les courbes exponentielles et y voit non seulement du progrès mais aussi une menace.

À Davos, il a rappelé une fois de plus les lois de scaling. Nous versons des milliards de dollars dans la puissance de calcul, et les réseaux de neurones deviennent docilement plus intelligents. Le problème, c'est que cette croissance n'est pas linéaire.

Nous pourrions nous réveiller dans un monde où un modèle de la prochaine génération affiche soudainement des capacités pour lesquelles nous ne sommes préparés ni légalement ni moralement. Amodei souligne que le point de non-retour est plus proche qu'il ne le semble à de nombreux régulateurs.

La différence dans leurs approches met en lumière le conflit principal de l'industrie. D'un côté—la conviction que nous pourrons contrôler le processus et intégrer progressivement l'IA dans la science et la vie quotidienne. De l'autre—la crainte que le rythme du développement technologique ait déjà dépassé celui de l'adaptation des institutions sociales.

Quand le modérateur a posé la question des délais précis, la tension a flotté dans l'air. Hassabis parie sur la fin de la décennie, tandis qu'Amodei laisse entendre que les surprises pourraient commencer beaucoup plus tôt. Et ce n'est pas de la simple divination.

De ces dates dépend où s'écouleront les prochains billions de dollars d'investissements et quelles lois l'UE et les États-Unis adopteront dans les mois à venir.

Pourquoi cela importe-t-il maintenant ? Parce que l'ère des chatbots « jouets » se termine. Nous nous orientons vers des agents qui peuvent agir de manière autonome.

Si les dirigeants de deux entreprises qui détiennent essentiellement les clés de cette technologie divergent dans leur évaluation des risques fondamentaux, c'est une raison de réfléchir. Nous sommes dans une situation où les créateurs du moteur se disputent pour savoir si la machine a des freins et où se trouve le bord du précipice. L'ironie, c'est que tous deux continuent d'appuyer sur l'accélérateur, car arrêter dans cette course signifie tout perdre.

La réunion de Davos a montré qu'il n'y a pas de consensus même au sommet, et « le jour après l'AGI » peut arriver soudainement pour tous les participants au processus.

L'essentiel : Hassabis et Amodei s'accordent sur une chose—l'AGI est inévitable et proche. Mais si Google y voit une super-assistante pour les scientifiques, Anthropic avertit d'un changement tectonique pour lequel le monde n'est pas préparé. Parviendrons-nous à nous entendre sur les règles du jeu avant que l'IA ne commence à les écrire elle-même ?