Live 18/11 · Cohorte 318 nov à 19h00 MSK — atelier pratique gratuit sur les agents IA · La Cohorte 3 démarre le 23/11Atelier 18/11 →Cohorte 3 (23/11)
SortieAPI / Produit · Prêt à l'emploiHabr AI→ original

Plusieurs LLM dans un même chat Telegram : comment combiner Groq et Google AI

Un développeur a créé un bot Telegram où plusieurs LLM travaillent en même temps dans le même chat, chacun se faisant passer pour un employé d'une entreprise. L'utilisateur peut passer de l'un à l'autre sur demande. L'intégration repose sur des API gratuites : Groq (Llama) et Google AI Studio (Gemma et Gemini).

Traité par IA depuis Habr AI ; édité par Hamidun News
Plusieurs LLM dans un même chat Telegram : comment combiner Groq et Google AI
Source : Habr AI. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireHabr AI ↗
Rédacteur en chef
Chiffre clé #1Groq — pour Llama, avec une vitesse d'inférence record
Chiffre clé #2Google AI Studio — pour Gemma et Gemini, avec des offres gratuites correctes
Chiffre clé #3De simples requêtes HTTP pour relier les composants

Un développeur de Habr a créé un bot Telegram ludique dans lequel plusieurs LLM travaillent simultanément dans un seul chat, chacun se faisant passer pour un employé d'une entreprise. L'idée est née comme une blague pour une soirée entre amis, mais elle est vite devenue un cas technique intéressant sur l'intégration de plusieurs modèles avec des API exclusivement gratuites.

Comment faire tenir plusieurs modèles dans un seul chat

L'idée de départ était simple et amusante : créer un chat où plusieurs réseaux de neurones « travaillent » en même temps, persuadés d'être de vrais employés d'une entreprise. Chaque modèle reçoit son propre rôle et son propre historique, et l'utilisateur peut à tout moment passer de l'un à l'autre en posant la même question à différents LLM. Ce n'est pas seulement un test en parallèle : c'est une tentative de faire apprendre à ces réseaux leurs personnages et de les leur faire respecter au sein d'un même dialogue.

Où trouver une API sans payer

La première tâche pratique était banale mais critique : trouver un ensemble d'outils offrant des quotas gratuits corrects. Le développeur a mené son enquête et retenu trois options principales :

  • Groq — pour Llama, avec une vitesse d'inférence record
  • Google AI Studio — pour Gemma et Gemini, avec des offres gratuites correctes
  • De simples requêtes HTTP pour relier les composants

Au départ, le code est resté relativement simple : choisir le modèle selon la commande de l'utilisateur, rediriger la requête vers la bonne API et insérer la réponse dans le contexte commun du chat. La logique était minimale ; la difficulté tenait à la gestion simultanée de l'état et du contexte de chaque modèle.

Quand le modèle oublie qui il est

Un problème amusant mais tenace est vite apparu : lors du passage d'un modèle à l'autre, l'un d'eux refusait de céder la main et se faisait simplement passer pour un autre, perdant totalement son identité. Le développeur a réglé la majeure partie du problème grâce à un prompt système soigné qui « rappelle » explicitement à chaque modèle qui il doit être dans ce dialogue.

Il n'a toutefois pas pu éliminer entièrement le bug. Les modèles se mélangent parfois encore les rôles, surtout dans les longs dialogues à plusieurs tours. Selon le développeur, c'est une limite fondamentale des LLM eux-mêmes : ils génèrent bien du texte et imitent le style, mais perdent souvent le contexte de leur identité quand l'attention se déplace.

Ce que cela signifie

Ce cas montre qu'on peut construire une interface multimodèle même avec des API gratuites, à condition de soigner l'architecture et le prompting. Une fiabilité totale dans la gestion du contexte et de l'identité n'est pas encore atteignable, mais pour l'expérimentation, le prototypage et l'apprentissage, c'est largement suffisant.

Dossier

Questions clés sur cet article

Comment faire tenir plusieurs modèles dans un seul chat?

L'idée de départ était simple et amusante : créer un chat où plusieurs réseaux de neurones « travaillent » en même temps, persuadés d'être de vrais employés d'une entreprise. Chaque modèle reçoit son propre rôle et son propre historique, et l'utilisateur peut à tout moment passer de l'un à l'autre en posant la même question à différents LLM. Ce n'est pas seulement un test en parallèle : c'est une tentative de faire apprendre à ces réseaux leurs personnages et de les leur faire respecter au sein d'un même dialogue.

Que sait-on sur Où trouver une API sans payer ?

La première tâche pratique était banale mais critique : trouver un ensemble d'outils offrant des quotas gratuits corrects. Le développeur a mené son enquête et retenu trois options principales : Groq — pour Llama, avec une vitesse d'inférence record Google AI Studio — pour Gemma et Gemini, avec des offres gratuites correctes De simples requêtes HTTP pour relier les composants Au départ, le code est resté relativement simple : choisir le modèle selon la commande de l'utilisateur, rediriger la…

Quand le modèle oublie qui il est?

Un problème amusant mais tenace est vite apparu : lors du passage d'un modèle à l'autre, l'un d'eux refusait de céder la main et se faisait simplement passer pour un autre, perdant totalement son identité. Le développeur a réglé la majeure partie du problème grâce à un prompt système soigné qui « rappelle » explicitement à chaque modèle qui il doit être dans ce dialogue. Il n'a toutefois pas pu éliminer entièrement le bug.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…