Hugging Face enseigne à TRL à livrer un billion de paramètres via poids delta

Hugging Face a présenté Delta Weight Sync pour TRL — un outil qui livre un billion de paramètres via Hub en envoyant uniquement les deltas de poids. La méthode réduit le volume de données de centaines de fois et accélère la synchronisation entre nœuds lors de l'entraînement distribué.