重排序模型(Reranker)

重排序模型把问题和每条搜索结果放在一起阅读,对一小批结果重新打分,比单用嵌入更准确,但更慢。

  • 模型与架构
  • 更新于

用嵌入做搜索很快,因为文档只需转成一次向量,再按距离比较;但问题和文档从未“见过面”,所以可能漏掉细微的匹配。重排序模型通常是交叉编码器,会把问题和一个候选一起读入,输出相关性分数。常见做法分两步:先由嵌入模型取回前 50 或 100 个候选,再由重排序模型排序。

重排序会给每次查询增加延迟,因为每个候选都要单独过一遍模型,所以候选列表要保持较短,不过 Jina Reranker v3.5 这样的列表式重排序模型会一次读完整个列表。重排序模型与嵌入模型是两个独立的模型,各有自己的许可证,需要分别检查。例如 BGE-M3 的模型卡就推荐用 BAAI 的 bge-reranker 模型对前几名结果重新打分。

相关术语

  • 嵌入模型 嵌入模型把文本、图像或其他数据转换成一串能够表达其含义的数字,使意思相近的内容在空间中彼此靠近。
  • 检索增强生成(RAG) 检索增强生成让模型能够根据你自己的文档来回答问题:先检索出相关段落,再把它们加入提示词。
  • 套娃嵌入(Matryoshka embeddings) 套娃嵌入在训练时就让向量的前半部分也能单独使用,所以你可以把向量截短,以节省存储空间和搜索时间。

继续阅读

全部术语