Google dévoile TensorFlow 2.21 et LiteRT pour l'IA mobile

Google dévoile TensorFlow 2.21 et LiteRT : accélération GPU, prise en charge des NPU et intégration avec PyTorch Edge

Google a officiellement annoncé une nouvelle version de son framework d'apprentissage automatique très répandu, TensorFlow 2.21. L'élément central de cette version est la consécration de LiteRT, qui passe du stade de préversion à celui de produit complet destiné à la production. LiteRT est désormais présenté comme le framework universel d'inférence (exécution des modèles) directement sur les appareils, et remplace entièrement son prédécesseur, TensorFlow Lite (TFLite).

Contexte : l'évolution de l'IA mobile

L'intelligence artificielle se déplace de manière constante vers l'informatique en périphérie, où les données sont traitées au plus près de leur source, sans passer par des serveurs cloud. C'est particulièrement vrai pour les appareils mobiles, comme les smartphones, les montres connectées et autres gadgets, où la rapidité de réponse, la confidentialité des données et l'efficacité énergétique sont déterminantes. TensorFlow Lite a longtemps été le standard pour déployer des modèles d'apprentissage automatique sur ces appareils, mais l'arrivée de matériel plus puissant et de nouvelles architectures de réseaux de neurones a fait naître le besoin d'une solution plus performante et plus souple.

LiteRT entend répondre à ces besoins croissants avec un moteur plus abouti pour exécuter des modèles d'IA sur un large éventail de plateformes matérielles.

Analyse détaillée : les nouveautés de TensorFlow 2.21 et de LiteRT

La principale nouveauté de TensorFlow 2.21 est LiteRT lui-même. Ce framework offre une accélération significative des processeurs graphiques (GPU), essentielle pour les tâches qui exigent un calcul parallèle intensif, comme le traitement d'images ou de vidéos en temps réel. LiteRT assure en outre une prise en charge native des unités de traitement neuronal (NPU), des accélérateurs matériels spécialisés de plus en plus présents dans les smartphones modernes et conçus pour exécuter efficacement des tâches d'apprentissage automatique. Cela permet d'exploiter toute la puissance du matériel mobile actuel pour gagner en performances et réduire la consommation d'énergie.

Un autre atout important de LiteRT est son intégration fluide avec les modèles développés avec PyTorch Edge. Concrètement, les développeurs qui utilisaient jusqu'ici l'écosystème PyTorch pour créer leurs solutions d'IA peuvent désormais migrer leurs modèles assez facilement pour les déployer sur des appareils mobiles et en périphérie via TensorFlow LiteRT, sans réécrire le code from scratch. Le développement s'en trouve nettement simplifié, et les possibilités de déploiement multiplateforme s'élargissent.

Implications : l'avenir de l'IA en périphérie

La sortie de TensorFlow 2.21 et le déploiement complet de LiteRT ouvrent de nouvelles perspectives aux développeurs d'applications mobiles et aux ingénieurs qui travaillent sur l'IA en périphérie. Un GPU plus rapide et la prise en charge des NPU permettent de créer des modèles d'IA plus complexes et plus gourmands, qu'il était auparavant peu réaliste d'exécuter sur les appareils. Cela peut faire émerger de nouvelles fonctions dans les applications, comme une reconnaissance d'objets en temps réel plus précise, un traitement avancé du langage naturel directement sur l'appareil, des recommandations personnalisées et de meilleures capacités de réalité augmentée.

La migration simplifiée des modèles depuis PyTorch favorise aussi une adoption plus large de l'IA en périphérie, en abaissant la barrière d'entrée pour les équipes qui ont déjà investi dans d'autres frameworks. Elle contribue à une plus grande standardisation et à une meilleure interopérabilité dans l'industrie.

Conclusion

TensorFlow 2.21, avec LiteRT comme framework principal d'inférence sur appareil, constitue une avancée significative pour l'IA mobile et en périphérie. L'association de performances accrues, d'une prise en charge matérielle élargie et d'une meilleure compatibilité avec d'autres outils populaires en fait une solution puissante pour les développeurs qui veulent exploiter tout le potentiel de l'IA sur les appareils les plus variés.