Comment Memori donne une mémoire persistante aux agents et aux LLM multisession

Memori est un framework pour créer une mémoire native d'agent dans les applications LLM. Il s'attaque à un problème que les modèles de langage ont dès l'origine : ils ne retiennent rien en dehors de la conversation en cours. Memori ajoute une couche de mémoire entre l'application et le modèle, ce qui permet aux agents de conserver l'historique, le contexte et les préférences de l'utilisateur.

Pourquoi les LLM classiques ne suffisent pas

Les applications LLM classiques fonctionnent dans la session en cours : chaque nouvelle requête repart d'une page blanche. L'utilisateur peut se répéter dix fois, le modèle considérera chaque fois l'information comme nouvelle. Pour les chatbots, les assistants personnels et les systèmes d'entreprise, c'est un problème critique.

Memori change la donne avec une couche de mémoire persistante. L'agent peut désormais retenir non seulement la conversation en cours, mais aussi toutes les interactions passées, les faits appris sur l'utilisateur et ses préférences.

Comment fonctionne Memori

Memori agit comme un proxy entre l'application et l'API d'OpenAI. On enveloppe le client OpenAI standard dans Memori, et chaque appel au modèle traverse la couche de mémoire. Le framework fonctionne avec des clients synchrones comme asynchrones, ce qui compte pour les systèmes de production qui traitent de nombreuses requêtes.

L'intégration dans Google Colab ne demande que trois étapes :

• Installer Memori depuis PyPI
• Initialiser le client Memori avec les paramètres de stockage
• Remplacer le client OpenAI ordinaire par la version enveloppée par Memori

Rien d'autre à modifier dans votre code ; le reste se fait automatiquement.

Agents multi-utilisateurs

Memori prend en charge les scénarios où un seul agent travaille avec de nombreux utilisateurs en même temps. Chaque utilisateur dispose de sa propre mémoire et de son propre contexte. C'est essentiel en production : les assistants personnels doivent se souvenir de l'historique de chaque utilisateur, les chatbots B2B doivent distinguer les clients, et les systèmes de support d'entreprise doivent tenir un dossier distinct pour chacun.

«

La mémoire à long terme n'est pas une fonctionnalité, c'est le socle de la production », affirment les auteurs de Memori.

Ce que cela signifie

Les applications LLM cessent d'être stateless. Selon la source, cela représente une révolution pour l'expérience utilisateur : les bots deviendront plus utiles, apprendront de vos habitudes et se souviendront des décisions que vous avez déjà prises. Plus besoin de vous répéter.

Pour les développeurs, Memori fait gagner des mois de travail : inutile d'écrire son propre système de mémoire, l'intégration au stockage ou le mécanisme d'oubli et de mise à jour du contexte.