Deep Cogito a entraîné la famille Cogito v1 sur l'infrastructure Runpod, en route vers l'ASI

Deep Cogito, basée à San Francisco, a entraîné la famille de modèles ouverts Cogito v1 sur l'infrastructure Runpod. Il s'agit d'un cloud GPU où l'on loue de la puissance de calcul au lieu de construire son propre cluster. La gamme compte cinq tailles, de 3 à 70 milliards de paramètres, et l'objectif affiché de l'entreprise est la superintelligence artificielle (ASI). L'histoire a été publiée par le blog de Runpod sous forme d'étude de cas client : il faut donc la lire en tenant compte du genre.

Ce que l'on sait du projet

La seule source publique est un article du blog de Runpod. L'extrait dont nous disposons s'interrompt au moment où il indique que Cogito v1 vise la superintelligence artificielle. Le nombre de GPU, les types d'accélérateurs, la durée des runs et le coût de l'entraînement n'y sont pas divulgués. Sans ces chiffres, impossible d'évaluer l'ampleur des calculs, et il serait incorrect de les extrapoler.

Les documents publics de Deep Cogito elle-même donnent un tableau plus large. L'entreprise est sortie de l'ombre en avril 2025 et a présenté Cogito v1 Preview. Les modèles n'ont pas été entraînés from scratch : ils reposent sur des checkpoints Llama et Qwen existants, qui ont reçu un entraînement complémentaire selon la méthode maison.

Comment fonctionne Cogito v1

Le principal pari de Deep Cogito est l'IDA, la distillation et l'amplification itératives. Le schéma est le suivant. D'abord, le modèle consacre plus de calcul au raisonnement ou à la recherche, et obtient une meilleure réponse que celle qu'il aurait donnée d'emblée. C'est l'amplification. Ensuite, ce résultat est distillé dans les poids : le modèle apprend à produire cette réponse sans dépense supplémentaire. Le cycle se répète. L'idée est que l'amélioration ne dépend pas de l'annotation humaine, mais du calcul que l'équipe est prête à investir.

Les modèles sont hybrides : ils répondent directement ou activent un mode de raisonnement. L'entreprise affirme que Cogito v1 devance les modèles ouverts de même taille, dont les gammes Llama, DeepSeek et Qwen. Ce sont ses propres déclarations. Notre article ne contient aucune vérification indépendante.

Paramètres clés de la famille :

• Tailles : 3B, 8B, 14B, 32B et 70B paramètres.
• Modèles de base : checkpoints Llama et Qwen.
• Modes de fonctionnement : réponse standard et raisonnement (hybrid reasoning).
• Méthode d'entraînement : distillation et amplification itératives (IDA).
• Infrastructure : cloud Runpod.
• Accès : poids ouverts.

Pourquoi le choix de Runpod compte

Ce cas illustre le parcours typique d'un petit laboratoire. Un cluster propre de plusieurs milliers de H100 exige des centaines de millions de dollars et des mois d'attente pour les livraisons. La location à l'heure permet de lancer des expériences immédiatement et de les arrêter quand la méthode ne fonctionne pas. Pour l'IDA, dont l'entraînement repose sur des cycles répétés, cette souplesse compte : le volume de calcul de chaque itération n'est pas connu à l'avance.

Ceci est notre analyse, et non une citation de la source. Pour Runpod, qui rivalise avec CoreWeave, Lambda et les hyperscalers pour attirer des clients, un tel cas sert de publicité. Il dit au marché que des GPU loués permettent d'entraîner des modèles non seulement pour des tâches appliquées, mais aussi pour prétendre à la pointe du domaine.

Que vérifier en pratique

Une équipe qui s'intéresse à Cogito v1 ou à une voie similaire a intérêt à vérifier plusieurs points :

1. Tester un modèle de la taille voulue sur ses propres tâches. Les classements de l'entreprise ne remplacent pas un test sur vos données, en particulier en mode raisonnement, où la latence et le coût par token augmentent.

2. Lire les licences. Les modèles sont construits sur Llama et Qwen : les conditions d'utilisation héritent donc de celles des checkpoints de base.

3. Si vous prévoyez votre propre fine-tuning sur une base ouverte, comparer l'économie de la location de GPU à celle de l'achat. Pour des expériences dont le volume de calcul est inconnu, la location l'emporte généralement.

4. Surveiller si Deep Cogito publiera des détails techniques : nombre de GPU, coût des runs, données sur l'IDA. Ce sont eux qui montreront si l'approche est reproductible en dehors de cette équipe.

Pour l'instant, il y a une ambition affichée, une gamme fonctionnelle de modèles ouverts et un fournisseur de cloud qui en parle volontiers. C'est insuffisant pour parler d'ASI, mais comme exemple d'une petite équipe capable d'entraîner des modèles compétitifs sans datacenter propre, le cas tient la route.