Agenten-Gedächtnis (Agent memory)
Ein Agenten-Gedächtnis ermöglicht es einem KI-Agenten, Fakten, Präferenzen und frühere Erfahrungen über Sitzungen hinweg zu behalten, statt jedes Mal mit leerem Kontext zu starten.
Die meisten Chat-Modelle sehen nur, was in das aktuelle Kontextfenster passt. Ein Agenten-Gedächtnis fügt einen Speicher hinzu, der die Konversation überdauert. Das gängige Design ist ein externes Memory-Framework wie Mem0 oder MemOS: Nach jedem Austausch entscheidet ein Modell, was es aufschreibt, wie genau es es formuliert und wie neue Fakten alte aktualisieren sollen, und ein Abrufschritt holt die relevanten Einträge später wieder zurück. Hy-Memory-30B-A3B von Tencent ist ein offenes Modell, das nur für diesen Schreibschritt trainiert wurde.
Ein anderer Ansatz, den MemTensors MemT-1.0 verfolgt, baut das Gedächtnis in das Modell selbst ein. Ein Zustand fester Größe sitzt neben den Attention-Schichten, wird nach jedem Zug aktualisiert und lässt sich in einer Datei speichern und später laden, sodass die alte Konversation nicht im Prompt bleiben muss. Nach Angaben von MemTensor benötigt dies bei einem 128K-Token-Verlauf etwa 66-mal weniger persistenten Speicher als ein KV-Cache; das Unternehmen sagt aber auch, dass starke textbasierte Gedächtnissysteme insgesamt noch vorn liegen.
Memory-Benchmarks wie LoCoMo und LongMemEval sind jung, und die veröffentlichten Tabellen stammen aus den eigenen Läufen der Entwickler, oft nur auf Teilstichproben. Gespeicherte Erinnerungen können persönliche Daten enthalten; entscheiden Sie daher, wo sie liegen, wie Nutzer sie einsehen oder löschen können und was sich der Agent merken darf.
Verwandte Begriffe
- KI-Agent Ein KI-Agent ist ein System, in dem ein Modell mehrstufige Aufgaben plant und ausführt, indem es Tools aufruft, etwa Code ausführen, das Web durchsuchen oder Dateien bearbeiten.
- Retrieval-Augmented Generation (RAG) Retrieval-Augmented Generation ermöglicht einem Modell, aus Ihren eigenen Dokumenten zu antworten, indem es die passenden Passagen abruft und in den Prompt einfügt.
- Kontextfenster Das Kontextfenster ist die maximale Textmenge, gemessen in Tokens, die ein Modell auf einmal berücksichtigen kann, einschließlich Ihres Prompts und seiner eigenen Antwort.
- KV-Cache Der KV-Cache ist der Speicher, den ein Modell nutzt, um sich die früheren Tokens einer Konversation zu merken, und er wächst mit der Länge des Kontexts.