検索拡張生成(RAG)

検索拡張生成(RAG)は、関連する段落を検索してプロンプトに加えることで、モデルがあなた自身の文書に基づいて回答できるようにする仕組みです。

  • モデルの使い方
  • 更新日

RAG システムは文書をチャンクに分割し、その埋め込みを保存します。質問ごとに最も近いチャンクを見つけて言語モデルに渡し、モデルが回答を書きます。モデルを再学習させる必要はなく、回答は出典の段落を指すこともできます。

RAG はハルシネーションを減らしますが、なくせるわけではありません。モデルは段落を誤読したり無視したりする可能性があり、結果は埋め込みモデルの品質と、文書のチャンク分割のやり方に大きく左右されます。

関連用語

  • 埋め込みモデル(Embedding model) 埋め込みモデルはテキストや画像などのデータを、意味を表す数値の列に変換します。これにより、意味の近い項目どうしが近い位置に並びます。
  • ハルシネーション(Hallucination) ハルシネーションとは、AI モデルが自信たっぷりに述べる、誤りのある、あるいはでっち上げの主張のことです。
  • コンテキストウィンドウ(Context window) コンテキストウィンドウとは、モデルが一度に考慮できるテキスト量の上限で、トークン単位で測られます。あなたのプロンプトとモデル自身の回答の両方が含まれます。
  • エージェントメモリ(Agent memory) エージェントメモリは、AI エージェントが事実、好み、過去の経験をセッションをまたいで保持できるようにし、毎回空白のコンテキストから始めなくて済むようにする仕組みです。

すべての用語