Stack technique des agents AI : LLM, orchestration, mémoire vectorielle et outils

Un agent d'IA n'est pas simplement un appel à un modèle de langage. Derrière chaque agent autonome se cache une architecture multicouche, et le choix de chaque composant détermine si le système fonctionnera de manière fiable et prévisible avec des tâches du monde réel.

Couches de la pile d'agents

À la base se trouve un modèle de langage — GPT-4o, Claude 3.5 Sonnet, Gemini 1.5 ou des alternatives ouvertes comme Llama 3 et Mistral. C'est lui qui est responsable du raisonnement. Le choix du modèle détermine le plafond des capacités de l'agent : un modèle plus puissant gère mieux les tâches multi-étapes, mais il est plus coûteux et plus lent à l'exécution.

Au-dessus du LLM se trouve la couche d'orchestration — un framework ou du code personnalisé qui gère le cycle « penser → sélectionner l'outil → exécuter → évaluer → continuer ». Les frameworks les plus courants sont : LangChain (écosystème riche d'intégrations), LlamaIndex (accent sur RAG et le travail avec les données), AutoGen de Microsoft (dialogue entre plusieurs agents), CrewAI (agents avec rôles et travail d'équipe). Chacun équilibre la flexibilité et la complexité de configuration différemment. Pour les solutions en production, l'orchestration est de plus en plus écrite de zéro — cela facilite le contrôle du comportement de l'agent à chaque étape.

Mémoire : des tokens aux bases de données vectorielles

Un agent sans mémoire abandonne tout le contexte après chaque conversation. La mémoire à court terme est la fenêtre de contexte de la session actuelle : tout ce qui tient dans les tokens, le modèle le « se souvient » maintenant. Mais la fenêtre est finie, il est coûteux de tout y conserver, et lors de sessions longues elle se remplit rapidement.

La mémoire à long terme est implémentée via des bases de données vectorielles : Pinecone, Chroma, Weaviate, Qdrant, pgvector. L'agent vectorise les faits et les stocke, puis les récupère via une recherche sémantique si nécessaire. C'est ainsi que fonctionne RAG (Retrieval-Augmented Generation) : au lieu de stocker tout le contexte dans les tokens, le système interroge seulement ce qui est pertinent pour une étape particulière. Cela réduit le coût et diminue la probabilité d'hallucinations.

Le troisième niveau est le cache sémantique : si l'agent a déjà répondu à une requête similaire, le système retourne le résultat en cache sans un nouvel appel au LLM. Dans les scénarios de production avec des modèles récurrents, cela réduit notablement la latence et le coût de l'infrastructure.

Outils et actions

Les outils transforment un agent de « chat intelligent » en un système qui fait vraiment quelque chose. Sans eux, un agent se limite au savoir des données d'entraînement, qui deviennent rapidement obsolètes. Un ensemble typique dans un agent de production :

• Recherche web en temps réel (Brave Search, Tavily, SerpAPI)
• Exécution de code (Python REPL, E2B Sandbox)
• Travail avec les fichiers, feuilles de calcul, PDF et bases de données
• Requêtes HTTP vers des API externes et services d'entreprise
• Automatisation du navigateur (Playwright, Puppeteer)

Le maillon de liaison est le function calling : le modèle décrit quel outil appeler et avec quels arguments, l'orchestrateur exécute l'appel et retourne le résultat au contexte. Le cycle « penser — agir — observer » se répète jusqu'à ce que la tâche soit terminée ou jusqu'à ce qu'une intervention humaine soit nécessaire.

Un composant séparé, et souvent sous-estimé, est l'observabilité. En production, il est important de comprendre pourquoi l'agent a pris une décision particulière et où il a échoué. Les outils de tracing comme LangSmith ou Langfuse capturent chaque étape, permettent de comparer les versions de prompts et de mesurer la qualité des réponses.

Ce que cela signifie

La pile technique d'un agent d'IA est un ensemble de compromis d'ingénierie concrets, pas une abstraction. Le bon choix de framework, de couche mémoire et d'outils détermine si l'agent sera fiable en production ou s'il hallucine et se bloque à mi-chemin d'un objectif. Alors que les systèmes d'agents sortent des laboratoires pour devenir de vrais produits, comprendre chaque couche de la pile devient une compétence fondamentale pour les développeurs d'applications d'IA.