检索增强生成(RAG)

检索增强生成让模型能够根据你自己的文档来回答问题:先检索出相关段落,再把它们加入提示词。

  • 使用模型
  • 更新于

RAG 系统会把你的文档切分成片段,并存储它们的嵌入向量。每提出一个问题,系统就找出最接近的片段,交给语言模型来写出回答。模型不需要重新训练,回答也可以指向来源段落。

RAG 能减少幻觉,但不能消除。模型仍然可能误读这些段落或忽略它们,结果在很大程度上取决于嵌入模型的质量以及文档的切分方式。

相关术语

  • 嵌入模型 嵌入模型把文本、图像或其他数据转换成一串能够表达其含义的数字,使意思相近的内容在空间中彼此靠近。
  • 幻觉 幻觉是指 AI 模型信心十足地给出的虚假或编造的陈述。
  • 上下文窗口 上下文窗口是模型一次最多能考虑的文本量,以 token 计量,其中包括你的提示词和模型自己的回答。
  • 智能体记忆 智能体记忆让 AI 智能体在不同会话之间保留事实、偏好和过往经验,而不是每次都从空白上下文开始。

继续阅读

全部术语