Underdog fait tenir son modèle vocal Woof dans 32 Mo et le lance dans le navigateur

Une interface vocale paraît être une fonctionnalité simple, jusqu’au moment où il faut payer les serveurs, attendre la réponse du cloud et expliquer à l’utilisateur où son texte a été envoyé. Underdog propose une autre approche : son modèle de synthèse vocale Woof pèse 31,7 Mo, contient 31 millions de paramètres et, selon l’entreprise, fonctionne directement dans le navigateur sur la plupart des appareils, même sans Internet.

L’entreprise n’a pas présenté le modèle dans un tableau de benchmarks, mais dans un petit jeu. L’écran montre une pièce avec une machine à écrire, un ancien moniteur et un récepteur radio. L’utilisateur saisit n’importe quelle phrase, puis Woof la prononce localement. C’est une illustration claire de ce que recouvre généralement l’expression « calcul sur l’appareil » : le texte n’a pas besoin d’être envoyé à un serveur distant et la réponse ne dépend pas de la qualité de la connexion.

Pourquoi faire tenir une voix dans 32 Mo

Pour effectuer une synthèse vocale dans le cloud, une application enregistre ou reçoit du texte, envoie les données au fournisseur, attend leur génération, puis récupère l’audio. Cette chaîne implique le réseau, une API externe, des frais par requête et des règles de traitement des données. Si le service est indisponible ou si la connexion est interrompue, la fonction vocale cesse de fonctionner.

Woof déplace le calcul sur l’appareil de l’utilisateur. Cette approche est particulièrement intéressante pour les applications de prise de notes, la vocalisation des interfaces, la navigation, les outils éducatifs et les assistants personnels. Par exemple, une application de lecture de documents pourrait prononcer un paragraphe sélectionné dans un avion ou dans le métro sans téléverser le contenu du document dans le cloud. Pour un produit, le bénéfice ne se limite pas à la confidentialité : les coûts deviennent aussi plus prévisibles, car, une fois le modèle téléchargé, chaque nouvelle requête ne génère pas une facture distincte auprès d’un fournisseur d’API.

Le modèle est disponible au téléchargement. Les développeurs peuvent ainsi l’intégrer à leurs propres produits, mesurer la latence sur les appareils ciblés et, si nécessaire, étudier ses limites sans dépendre d’un service propriétaire. Underdog avait auparavant publié Bark, un modèle de reconnaissance vocale de 167 Mo destiné à la transcription et à la dictée locales. Ensemble, ces technologies esquissent une chaîne vocale complète sur l’appareil : Bark convertit la parole en texte, l’application traite la requête et Woof vocalise la réponse.

Une démonstration n’est pas encore un produit fini

La taille du modèle est impressionnante, mais elle ne dit rien, à elle seule, sur le naturel de la voix, la prise en charge du russe, la robustesse face aux phrases longues ou les performances sur des téléphones peu puissants. La publication ne fournit ni comparaison indépendante entre Woof et les systèmes cloud, ni mesures détaillées de la latence, de la consommation d’énergie ou de la qualité vocale. L’affirmation de l’entreprise selon laquelle le modèle fonctionne sur la plupart des appareils doit donc être considérée comme une déclaration du développeur, et non comme un résultat confirmé par des tests.

Un petit modèle ne remplacera probablement pas non plus les grands systèmes dans les situations qui exigent des dizaines de langues, un contrôle précis de l’intonation, le clonage vocal ou une qualité studio. Son atout pourrait être ailleurs : une parole suffisamment bonne, sans réseau, sans serveur et sans transmission de données personnelles.

Ce que les développeurs doivent vérifier

Il vaut mieux commencer par un petit prototype que remplacer entièrement le service vocal existant. Choisissez un scénario, par exemple la lecture des notifications, puis mesurez le temps du premier démarrage, la latence avant le début de la parole ainsi que la charge sur la mémoire et la batterie. Vérifiez ensuite la prononciation des nombres, des noms, des abréviations et des longues phrases sur les appareils réellement utilisés par votre public.

Si la qualité convient, le modèle local peut devenir l’option principale, le cloud n’étant réservé qu’aux cas complexes. L’intérêt de Woof ne tient pas seulement au fait que le modèle pèse moins qu’une photo prise avec un smartphone moderne. Il révèle une évolution concrète : l’IA vocale devient progressivement une composante ordinaire des applications, sans qu’il soit nécessaire de louer un serveur ni de transmettre les données des utilisateurs à l’extérieur.