Thinking Machines conçoit une IA qui parle et écoute en même temps

Aujourd'hui, tous les modèles d'IA obéissent au même principe : vous écrivez, le modèle écoute. Vous attendez, le modèle répond. Thinking Machines cherche à changer cela avec une architecture qui traite votre message et génère la réponse en même temps, comme lors d'un appel téléphonique ordinaire.

Le problème de l'approche actuelle

Tous les modèles de langage modernes, de ChatGPT à Claude, fonctionnent selon le schéma requête-réponse. Vous envoyez un message complet, le modèle le traite intégralement, puis renvoie une réponse complète. On a l'impression de parler à un robot, pas à une personne.

Dans une vraie conversation, il en va autrement. Les gens écoutent pendant qu'ils formulent leur réponse. Vous pouvez couper la parole à votre interlocuteur, préciser un détail, ajouter du contexte, et il réagit au vol, sans repartir de zéro. Personne n'attend que l'autre ait fini un long discours pour repenser entièrement sa réponse. Le dialogue coule ainsi de façon naturelle et organique.

L'approche actuelle de l'IA impose une frontière rigide : entrée terminée → traitement → sortie terminée. Pas de souplesse, pas d'adaptation en cours de route, pas de sensation de communication à double sens.

Ce que fait Thinking Machines

La start-up développe un modèle qui traite un flux d'entrée en temps réel et génère en parallèle un flux de sortie. Au lieu d'attendre l'entrée complète, le système commence à répondre pendant qu'il reçoit encore les informations de l'utilisateur. Cela ouvre plusieurs possibilités radicalement nouvelles :

• Écouter pendant la réponse : réagir à de nouvelles données sans recharger le contexte
• Interruptions naturelles : pouvoir couper la parole, comme dans une conversation en direct entre humains
• Adaptation de l'intonation : modifier le ton en temps réel selon les signaux vocaux
• Signaux non verbaux : prendre en compte les gestes et les expressions du visage lors des appels vidéo
• Latence minimale : aucun silence mort entre les répliques

Pour les assistants vocaux, c'est crucial. Quand vous appelez un centre d'appels ou commandez un taxi à la voix, vous ne voulez pas attendre 3 à 5 secondes de traitement. Vous parlez, l'assistant entend et répond aussitôt, comme une personne.

La difficulté architecturale

Traiter l'entrée et générer la sortie simultanément exige une refonte architecturale profonde. Les transformeurs, sur lesquels reposent presque tous les LLM actuels, sont conçus pour travailler de façon séquentielle : lire tout le contexte, puis produire les tokens un par un. Modifier ce principe de base revient à réécrire la mécanique de l'attention, du cache et de la prédiction. Le modèle doit conserver un contexte croissant issu du flux d'entrée tout en produisant la sortie, sans perdre la cohérence ni la logique de sa réponse.

Les défis pratiques sont tout aussi sérieux : la qualité des réponses (ne deviennent-elles pas hâtives et incomplètes ?), la latence (un délai minimal est nécessaire pour paraître naturel) et la gestion de la mémoire face à des flux qui s'allongent. Comment garder le fil de la conversation si la réponse avance en parallèle de l'entrée ? Comment ne pas rater un détail de la fin du message si l'on a déjà commencé à répondre au début ?

Ce que cela signifie

Si cette approche aboutit, dialoguer avec une IA ne donnera plus l'impression d'interagir avec un système. Ce sera un vrai dialogue, une vraie conversation, sans rigidité ni délai, plus proche de l'échange humain.

Pour les assistants vocaux, les chatbots et surtout les centres d'appels, ce serait une amélioration critique. Le client appelle, l'assistant entend et réagit immédiatement ; il peut interrompre pour demander une précision et adapter sa réponse à partir des nouvelles informations. Cela augmenterait la satisfaction et accélérerait la résolution des problèmes de plusieurs fois.