Mémoire d'agent (Agent memory)

La mémoire d'agent permet à un agent d'IA de conserver des faits, des préférences et des expériences passées d'une session à l'autre, au lieu de repartir d'un contexte vide.

  • Utiliser les modèles
  • Mis à jour le

La plupart des modèles de chat ne voient que ce qui tient dans la fenêtre de contexte actuelle. La mémoire d'agent ajoute un stockage qui survit à la conversation. Le schéma courant est un framework de mémoire externe comme Mem0 ou MemOS : après chaque échange, un modèle décide quoi noter, avec quelle précision le formuler et comment les nouveaux faits doivent mettre à jour les anciens, puis une étape de récupération ramène plus tard les entrées pertinentes. Hy-Memory-30B-A3B, de Tencent, est un modèle ouvert entraîné uniquement pour cette étape d'écriture.

Une autre approche, celle de MemT-1.0 de MemTensor, intègre la mémoire dans le modèle lui-même. Un état de taille fixe se trouve à côté des couches d'attention, est mis à jour à chaque tour et peut être enregistré dans un fichier puis rechargé, si bien que l'ancienne conversation n'a pas besoin de rester dans le prompt. Selon MemTensor, avec un historique de 128K tokens, cela nécessite environ 66 fois moins de stockage persistant qu'un cache KV, mais l'entreprise précise aussi que les systèmes de mémoire textuelle restent globalement en tête.

Les benchmarks de mémoire comme LoCoMo et LongMemEval sont récents, et les tableaux publiés proviennent des exécutions des développeurs eux-mêmes, souvent sur des sous-échantillons. Les mémoires stockées peuvent contenir des informations personnelles : décidez donc où elles résident, comment les utilisateurs peuvent les consulter ou les supprimer et ce que l'agent a le droit de retenir.

Termes associés

  • Agent d'IA Un agent d'IA est un système dans lequel un modèle planifie et exécute des tâches en plusieurs étapes en appelant des outils, comme exécuter du code, chercher sur le web ou modifier des fichiers.
  • Génération augmentée par récupération (RAG) La génération augmentée par récupération permet à un modèle de répondre à partir de vos propres documents en récupérant les passages pertinents et en les ajoutant au prompt.
  • Fenêtre de contexte La fenêtre de contexte est la quantité maximale de texte, mesurée en tokens, qu'un modèle peut prendre en compte à la fois, y compris votre prompt et sa propre réponse.
  • Cache KV Le cache KV est la mémoire qu'utilise un modèle pour se souvenir des tokens précédents d'une conversation, et il grandit avec la longueur du contexte.

Tous les termes