Faire tourner une IA à moindre coût : TurboQuant de Google optimise la mémoire
Google a dévoilé TurboQuant, une méthode de compression du cache KV qui peut réduire la mémoire nécessaire à l'inférence d'au moins six fois et accélérer le calcul de l'attention. Cela compte surtout pour l'exécution locale des LLM et pour les longues conversations. La technique ne vise pas les poids du modèle, mais sa mémoire de travail pendant la génération. Elle ne devrait toutefois guère freiner la hausse des dépenses globales d'infrastructure d'IA.
Traité par IA depuis ZDNet AI ; édité par Hamidun News
Google Research a développé le 24 mars TurboQuant, un algorithme pour réseaux de neurones locaux qui réduit les besoins en mémoire pendant la génération d'une réponse.
Qu'est-ce que le cache KV dans les réseaux de neurones ?
C'est la mémoire de travail dans laquelle un modèle de langage conserve les clés et les valeurs intermédiaires des tokens déjà traités. Plus le dialogue ou le document est long, plus ce cache occupe de mémoire, et plus l'exécution du modèle coûte cher.
- 1 nov. 2026Test de 16 modèles sur 7 moteurs de recherche : Exa obtient en moyenne 10,5 points sur 14, SearXNG environ 3
- 1 nov. 2026L'agent vidéo StreamVibe de Google devance les autres modèles de 10,7 % sur le timing et la qualité des réponses
- 1 nov. 2026OpenAI réécrit les règles de comportement de GPT : cinq valeurs et une chaîne de priorités
- 1 nov. 2026Les bots vocaux à base de LLM s'appuient sur le classifieur rapide Jev : une décision en 200–500 ms
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.