Gimlet Labs lève 80 millions de dollars pour exécuter l'inférence IA sur les puces de NVIDIA, AMD, Intel et d'autres via une seule couche

Gimlet Labs a levé 80 millions de dollars lors d'un tour de série A pour développer une technologie qui s'attaque à l'un des problèmes clés de l'IA actuelle : la dépendance des modèles à un matériel précis. L'entreprise a créé une couche logicielle qui exécute l'inférence de réseaux de neurones simultanément sur les puces de six fabricants : NVIDIA, AMD, Intel, ARM, Cerebras et d-Matrix.

Quiconque a déployé de l'IA en production connaît bien le problème que cherche à résoudre Gimlet Labs. Chaque fabricant de puces livre sa propre pile logicielle : CUDA chez NVIDIA, ROCm chez AMD, oneAPI chez Intel. Passer d'un matériel à un autre impose de réécrire le code, de tester et de déboguer longuement. Les entreprises se retrouvent prisonnières de leur fournisseur : même si AMD propose un meilleur prix ou Cerebras de meilleures performances pour une tâche donnée, le changement coûte trop cher.

Gimlet Labs propose une API unique pour toutes les plateformes prises en charge. C'est, pour l'essentiel, une couche d'abstraction entre le modèle et le matériel, comparable à ce que POSIX a jadis fait pour les systèmes d'exploitation. Le développeur écrit son code une seule fois, et la plateforme optimise l'exécution pour le matériel disponible.

L'inclusion de d-Matrix et de Cerebras, des acteurs de niche spécialisés dans l'inférence, est particulièrement parlante. C'est un signal envoyé au marché : Gimlet Labs ne se limite pas au grand public du secteur.

80 millions de dollars, c'est un pari sérieux que la fragmentation du marché des puces ne se résorbera pas d'elle-même. Les investisseurs estiment manifestement que les fabricants ne s'entendront pas entre eux, et que le marché a donc besoin d'une couche d'abstraction neutre, et durablement. Ce tour de table souligne que la couche d'infrastructure de la pile IA devient aussi stratégique que les modèles eux-mêmes.

Pour les acheteurs d'IA en entreprise, cette technologie représente un vrai pouvoir de négociation. Aujourd'hui, une part énorme des dépenses d'infrastructure IA va à NVIDIA, non pas faute d'alternatives, mais parce que la migration est trop douloureuse. Si Gimlet Labs ramène réellement le coût de migration à un niveau acceptable, les entreprises gagnent un levier : elles peuvent acheter auprès de celui qui offre le meilleur prix à un instant donné, et non auprès de celui auquel leur base de code les lie déjà.

L'élégance de la solution ne tient pas à l'idée même d'une couche abstraite (elle est connue depuis longtemps), mais au fait que l'équipe ait réussi à la mettre en œuvre sans perte de performances catastrophique. C'est là que ce type de projet échoue d'ordinaire : l'universalité cohabite mal avec l'optimisation. Reste à savoir dans quelle mesure Gimlet Labs a résolu cette contradiction : seule la production le dira.