エージェントメモリ(Agent memory)

エージェントメモリは、AI エージェントが事実、好み、過去の経験をセッションをまたいで保持できるようにし、毎回空白のコンテキストから始めなくて済むようにする仕組みです。

  • モデルの使い方
  • 更新日

多くのチャットモデルは、現在のコンテキストウィンドウに収まる内容しか見ることができません。エージェントメモリは、会話が終わっても残り続ける記憶庫を追加します。一般的な設計は Mem0 や MemOS のような外部メモリフレームワークで、やり取りのたびにモデルが何を書き留めるか、どの程度正確に表現するか、新しい事実を古い事実をどう更新するかを判断し、後で検索ステップが関連するエントリを呼び戻します。Tencent の Hy-Memory-30B-A3B は、この書き込みステップだけを目的として学習されたオープンモデルです。

別のアプローチは、MemTensor の MemT-1.0 が取っているもので、メモリをモデル自体に組み込みます。固定サイズの状態がアテンション層のそばに置かれ、ターンごとに更新され、ファイルに保存して後から読み込めるため、過去の会話をプロンプトに残しておく必要がありません。MemTensor によると、128K トークンの履歴では、KV キャッシュに比べて永続ストレージが約 66 分の 1 で済むといいますが、その一方で、テキストベースの強力なメモリシステムが総合的には依然として優位だとも認めています。

LoCoMo や LongMemEval のようなメモリベンチマークはまだ歴史が浅く、公開されている表は開発者自身の実行結果によるもので、多くはサブサンプルでの実行です。保存されたメモリには個人情報が含まれる可能性があるため、どこに保存するか、ユーザーがどう確認・削除できるか、エージェントが何を覚えてよいかを決めておく必要があります。

関連用語

  • AI エージェント AI エージェントとは、モデルがツールを呼び出して多段階のタスクを計画・実行するシステムです。コードの実行、ウェブ検索、ファイル編集などを行います。
  • 検索拡張生成(RAG) 検索拡張生成(RAG)は、関連する段落を検索してプロンプトに加えることで、モデルがあなた自身の文書に基づいて回答できるようにする仕組みです。
  • コンテキストウィンドウ(Context window) コンテキストウィンドウとは、モデルが一度に考慮できるテキスト量の上限で、トークン単位で測られます。あなたのプロンプトとモデル自身の回答の両方が含まれます。
  • KVキャッシュ KV キャッシュは、会話のそれまでのトークンをモデルが覚えておくためのメモリで、コンテキスト長に伴って増えていきます。

すべての用語