Qwen3-Reranker

阿里巴巴的 Apache 2.0 指令感知重排序模型(0.6B、4B、8B):100 多种语言,32K 上下文,基于 Qwen3。

一句话概括. Qwen3-Reranker 用来给搜索结果重新排序。它把问题和候选段落放在一起阅读,判断这段话是否回答了问题,让最好的段落排到前面。它有 0.6B、4B 和 8B 三种规格,采用 Apache 2.0,覆盖 100 多种语言和代码。

概述

Qwen3-Reranker 是阿里巴巴 Qwen3 Embedding 系列中负责重排序的那一半,Qwen 团队在 2025 年 6 月 5 日发布了该系列。它建立在稠密的 Qwen3 模型之上,采用交叉编码器设计和 LoRA 微调,所以它把查询和文档拼成一段文本一起阅读。模型卡里的 Transformers 示例通过比较模型对“yes”和“no”两个词的概率来得到分数,Sentence Transformers 也可以把它当作 CrossEncoder 加载。它支持 100 多种语言,包括编程语言,上下文为 32K token,不过模型卡的示例把输入限制在 8192 个 token。重排序模型接受自定义指令,模型卡称指令通常能把结果提高 1% 到 5%,并建议用英文书写。Qwen 直接用高质量的标注数据训练重排序模型,省去了嵌入模型使用的弱监督阶段。

在 Qwen 的表格里,对 Qwen3-Embedding-0.6B 检索出的前 100 个候选重新排序,0.6B 重排序模型在 MTEB-R 上得 65.80,CMTEB-R 为 71.31,MMTEB-R 为 66.36,MLDR 为 67.28,MTEB-Code 为 73.42。4B 分别是 69.76、75.94、72.74、69.97 和 81.20,8B 分别是 69.02、77.45、72.94、70.19 和 81.22。同一张表里 BGE-reranker-v2-m3 分别是 57.03、72.16、58.36、59.51 和 41.38。4B 在 MTEB-R 和 FollowIR 指令遵循测试上胜过 8B,后者是 14.84 对 8.05,所以更大的模型不一定更好。这些都是 Qwen 自己的测试。

许可证是 Apache 2.0,BF16 权重分别为 1.19 GB、8.04 GB 和 16.38 GB。加载需要 Transformers 4.51 或更高版本,ggml-org 还发布了 0.6B 模型的 Q8_0 GGUF,可用于 llama.cpp。在截至 2026 年 11 月 11 日的 30 天里,Hugging Face 统计到 4B 模型约 263 万次下载,0.6B 约 129 万次,8B 约 7.9 万次。

适合做什么

  • 对任何检索系统给出的前 50 到 100 个结果重新排序,覆盖 100 多种语言和代码
  • 用针对你的领域或语言的自定义指令来调优排序,Qwen 称这能带来 1% 到 5% 的提升
  • 0.6B 适合低成本部署,4B 在 Qwen 的表格里最均衡,8B 的中文和多语言分数最高
  • 采用 Apache 2.0 许可证,可用于商业产品

需要注意

  • 所有分数都是 Qwen 自己的,在 Qwen3-Embedding-0.6B 给出的候选上测得
  • 4B 在部分测试上胜过 8B,所以请两个都在你的数据上试一试
  • 交叉编码器必须读取每一对查询和候选,所以延迟随候选列表增长
  • 它只读文本,图像和视频请用 Qwen3-VL-Reranker

性能数据来自开发方,未经独立验证。

需要多少内存?

以下是 Qwen3-Reranker 各版本的内存数据。图像、视频、语音和音乐管线还要加载文本编码器和解码器,所以所需内存可能比主检查点更大。

版本 参数量 下载大小 所需内存 可运行于
Reranker-0.6B BF16 596M 1.19 GB 1.37 GB 笔记本或手机
Reranker-4B BF16 4.02B 8.04 GB 9.25 GB 笔记本或手机
Reranker-8B BF16 8.19B 16 GB 19 GB 游戏显卡

下载大小包含运行模型所需的全部组件,例如生成器、文本编码器和解码器。所需内存优先采用开发方声明或已公开的实测最低值;没有时按下载大小加约 15% 估算。更大的图像、更长的片段和更高的分辨率需要更多内存。

许可证,用大白话说

最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。

进一步了解 Apache 2.0

延伸阅读

常见问题

Qwen3-Reranker 是什么?
Qwen3-Reranker 用来给搜索结果重新排序。它把问题和候选段落放在一起阅读,判断这段话是否回答了问题,让最好的段落排到前面。它有 0.6B、4B 和 8B 三种规格,采用 Apache 2.0,覆盖 100 多种语言和代码。
Qwen3-Reranker 可以商用吗?
可以。Qwen3-Reranker 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
Qwen3-Reranker 是开源的吗?
Qwen3-Reranker 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
我能在自己的电脑上运行 Qwen3-Reranker 吗?
可以。最小版本 Reranker-0.6B 在 4 位精度下约需 1.37 GB 内存,现代笔记本或中端显卡即可胜任。
Qwen3-Reranker 是什么时候发布的?
Qwen3-Reranker 由 Alibaba Qwen 于 2025年6月5日 发布。
Qwen3-Reranker 的上下文窗口有多长?
Qwen3-Reranker 支持最长 32K token 的上下文窗口。

官方链接

来源

规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。

发布时间等信息最近核实于 2026年11月11日。

相关模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
BGE Reranker v2 m3 BAAI 568M 8K Apache 2.0 (宽松) 2.61 GB 笔记本或手机
Jina Reranker v3.5 Jina AI 597M 128K CC BY-NC (非商用) 0.46 GB 笔记本或手机
Qwen3-Embedding Alibaba Qwen 600M – 7.57B 32K Apache 2.0 (宽松) 1.38 GB 笔记本或手机
Qwen3-VL-Reranker Alibaba Qwen 2.13B – 8.77B 32K Apache 2.0 (宽松) 4.9 GB 笔记本或手机