Karpathy estime qu'environ 5000 personnes ont accès à l'IA la plus avancée

Andrej Karpathy, l'un des cofondateurs d'OpenAI et ancien directeur de l'IA chez Tesla, a estimé dans un post le nombre de personnes sur la planète qui ont réellement accès aux systèmes d'IA internes les plus avancés : environ 5000. À titre de comparaison, ChatGPT et ses équivalents sont utilisés chaque jour par des centaines de millions de personnes. Selon cette estimation, l'écart entre ce que voit le public et ce qui occupe les employés des principaux laboratoires est immense.

L'estimation est celle de Karpathy lui-même. Il n'existe pas de méthode de calcul, et aucun laboratoire ne l'a confirmée. Le chiffre sert plutôt de repère d'ordre de grandeur. Il a pourtant attiré l'attention, car Karpathy parle rarement de ces sujets au hasard : il a vu les coulisses d'OpenAI comme celles de Tesla.

Ce qui se passe à l'intérieur des laboratoires

Selon la description de Karpathy, dans les laboratoires frontier, il ne s'agit plus d'un seul assistant qui aide un seul développeur. Des milliers d'agents se regroupent en clusters coopératifs et travaillent sans interruption pendant des semaines. C'est un mode de fonctionnement différent du chat habituel, où l'utilisateur pose une question et attend une réponse en quelques secondes.

Voici la liste des tâches qu'il cite :

• de grands projets logiciels menés par des agents sur plusieurs semaines ;
• la recherche de vulnérabilités zero-day, c'est-à-dire de failles dont les développeurs n'ont pas connaissance ;
• la participation à des cyberattaques et à la cyberdéfense à vitesse machine ;
• la contribution à des découvertes scientifiques ;
• le travail sur des problèmes de mathématiques de pointe.

Les durées méritent une attention particulière. Un travail continu sur plusieurs semaines suppose que les agents conservent le contexte du projet, se répartissent les sous-tâches, corrigent leurs propres erreurs et n'ont pas besoin d'un humain à chaque étape. Les produits agentiques publics, eux, fonctionnent encore le plus souvent sur des durées de quelques heures et dans des scénarios limités.

Pourquoi le chiffre de 5000 compte

Si l'estimation est proche de la réalité, un cercle étroit de personnes façonne la perception de l'IA pour tous les autres. Il comprend les employés des laboratoires, quelques chercheurs extérieurs disposant d'un accès particulier, ainsi qu'une partie des personnes dans les administrations et les services de sécurité. Tous les autres jugent des progrès à partir de modèles publics, sortis avec du retard et généralement bridés.

Il en découle plusieurs conséquences. Les débats sur les risques et les bénéfices se tiennent avec des niveaux d'information différents : les uns discutent de chatbots, les autres travaillent avec des clusters d'agents. Les régulateurs ont plus de mal à évaluer ce qu'ils ne voient pas. Quant aux entreprises qui bâtissent des produits sur des API publiques, elles peinent à planifier leur feuille de route alors que le plafond réel des capacités reste caché.

La cybersécurité constitue un cas à part. Si les agents trouvent réellement des zero-day et agissent en défense comme en attaque à vitesse machine, le temps de réaction des analystes humains cesse d'être déterminant. Pour les défenseurs, c'est une chance de corriger les vulnérabilités plus vite ; pour les attaquants aussi. Impossible de dire, à partir d'un seul post, lequel de ces effets l'emportera.

Comment utiliser cette information

Il est utile de traiter ce type d'affirmation comme un signal, pas comme un fait. Voici des mesures concrètes pour les équipes et les développeurs :

1. Partez du principe que les agents publics rattraperont les capacités internes actuelles avec un temps de retard, et concevez vos produits pour pouvoir basculer vers un modèle plus puissant sans réécriture. 2.

Commencez dès maintenant à construire l'infrastructure pour des agents à longue durée de vie : journalisation des actions, limitation des droits, annulation des modifications. Dans un an ou deux, cela deviendra obligatoire. 3.

Si vous êtes responsable de la sécurité, revoyez votre modèle de menaces. Partez du principe que la recherche de vulnérabilités s'automatise et que le cycle « faille trouvée — exploit écrit » raccourcit. 4.

Suivez les sources primaires : déclarations des laboratoires, system cards des modèles et rapports d'évaluateurs indépendants. Les propos d'experts isolés, Karpathy compris, restent des opinions tant que des données ne les ont pas confirmés.

La question principale des prochains temps : à quelle vitesse les capacités aujourd'hui fermées deviendront publiques, et qui aura le temps de s'y préparer.