Together AI a lancé Instant Clusters, des clusters GPU en libre-service basés sur NVIDIA H100 et B200
Together AI a lancé Instant Clusters, des clusters GPU en libre-service pour l'entraînement et l'inférence des modèles. Ils prennent en charge NVIDIA H100 et B2

◐ Écouter l'article
Together AI a lancé Instant Clusters, des clusters GPU en libre-service pour l'entraînement et l'inférence des modèles. Ils prennent en charge NVIDIA H100 et B200 et sont prêts à l'emploi en quelques minutes, sans longs cycles d'approbation. Tous les composants sont inclus : GPU Operator, Network Operator et Cert Manager. Intégration avec Kubernetes, Slurm, Terraform et SkyPilot. Adaptés à l'entraînement distribué et à la mise à l'échelle.