Anthropic a porté Claude sur les puces AMD en trois jours grâce au modèle Mythos

Anthropic a lancé son roadshow d'introduction en Bourse, et la vidéo destinée aux investisseurs contient ce qui n'avait jamais été publié : l'organisation réelle de l'entreprise au niveau du matériel. Le passage le plus intéressant est la section consacrée au calcul, présentée par le cofondateur Tom Brown. Pour tous ceux qui construisent une infrastructure pour les LLM, c'est un rare coup d'œil de l'intérieur.

Quatre familles de puces au lieu d'une

Brown affirme que Claude est désormais entraîné et servi sur les quatre grandes familles de puces : AWS Trainium, Google TPU, GPU NVIDIA et GPU AMD. Selon lui, cela a été rendu possible par un pari atypique fait il y a longtemps. À l'époque, beaucoup pensaient que faire tourner des modèles sur des puces différentes ne valait pas l'effort.

Ces doutes avaient une raison. Chaque puce exige sa propre pile logicielle et sa propre pile d'inférence. C'est coûteux et complexe. Si vous avez déjà porté du code de CUDA vers autre chose, vous savez à quoi cela ressemble : les noyaux (kernels), c'est-à-dire les fonctions de bas niveau qui calculent réellement les matrices sur un matériel donné, doivent être réécrits presque de zéro.

Anthropic s'y consacre depuis des années et, selon Brown, y a « incroyablement réussi ». Un indice indirect de cette approche multipuce était déjà apparu en septembre. Dans son analyse de trois incidents récents, l'entreprise décrivait des bugs qui n'avaient touché que les déploiements sur TPU. Autrement dit, un même modèle tourne bel et bien sur plusieurs plateformes, et les erreurs y diffèrent.

Mythos a fait tourner Claude sur AMD en trois jours

Le chiffre le plus marquant concerne AMD. Cette année, Anthropic a commencé à travailler pour la première fois avec les GPU de ce fabricant. Auparavant, l'intégration d'une nouvelle plateforme demandait des mois de travail à des dizaines d'ingénieurs. Cette fois, la tâche a été confiée au modèle Mythos.

Selon Brown, il a lancé Claude sur AMD en trois jours, presque sans intervention humaine. Claude a porté ou écrit près de 100 % des noyaux.

Pour les praticiens, c'est un signal important. Le portage de noyaux était considéré comme ce travail « coûteux et ennuyeux » qui retient les ingénieurs auprès d'un seul fournisseur. Si un LLM absorbe réellement l'essentiel de ce travail, le coût pour s'affranchir d'un unique fournisseur de GPU baisse. C'est aussi un argument dans les négociations sur le prix du matériel.

Multiplicateurs de calcul et discussion sur l'auto-amélioration

Brown voit la deuxième source d'avantage dans la vitesse de découverte des « multiplicateurs de calcul ». Anthropic raisonne en calcul effectif final : la puissance physique multipliée par les multiplicateurs trouvés.

Un exemple tiré de la vidéo. Supposons qu'il faille 100 unités de calcul pour entraîner un modèle d'un certain niveau. Un multiplicateur de 4x signifie que le même modèle peut être entraîné avec 25 unités. Ou bien l'on peut dépenser les cent et obtenir un modèle plus intelligent, qui aurait auparavant exigé 400.

Selon Brown, les multiplicateurs se cumulent : chaque nouveau renforce l'effet des précédents, et un tel avantage est difficile à copier. Vient ensuite l'affirmation la plus audacieuse. Pour l'entreprise, le processus pourrait s'accélérer à l'approche de l'auto-amélioration récursive, lorsque Claude pourra trouver les multiplicateurs entièrement seul.

Ce qu'il faut garder à l'esprit

Premièrement : il s'agit de documents pour investisseurs, et non d'un rapport indépendant. Des chiffres comme « trois jours » et « près de 100 % des noyaux » ont été avancés par l'un des fondateurs et n'ont pas été vérifiés. Les détails manquent aussi : quels noyaux exactement, à quel point les performances se rapprochent de NVIDIA, combien d'heures de vérification humaine ont tout de même été nécessaires.

Deuxièmement : l'auto-amélioration récursive reste ici une promesse d'avenir. Ce n'est pas un résultat que quelqu'un a mesuré. Il faut la traiter comme la stratégie de l'entreprise et un argument pour l'IPO.

Troisièmement : il n'existe pas de transcription officielle de la vidéo. Simon Willison a extrait lui-même la transcription avec MacWhisper et l'a publiée ; il convient donc de vérifier les citations avec elle.

Conclusion pratique pour les équipes qui construisent leur propre inférence. Si vous repoussiez la prise en charge d'un second fournisseur à cause du coût du portage des noyaux, il est temps de revoir cette estimation. Essayez de confier à un modèle puissant un petit noyau avec des tests et calculez combien d'heures d'ingénieur cela a réellement économisées. Même si votre résultat est plus modeste que trois jours, la frontière du « coûteux et ne valant pas l'effort » s'est déjà déplacée.