Qwen3-Reranker
阿里巴巴的 Apache 2.0 指令感知重排序模型(0.6B、4B、8B):100 多种语言,32K 上下文,基于 Qwen3。
一句话概括. Qwen3-Reranker 用来给搜索结果重新排序。它把问题和候选段落放在一起阅读,判断这段话是否回答了问题,让最好的段落排到前面。它有 0.6B、4B 和 8B 三种规格,采用 Apache 2.0,覆盖 100 多种语言和代码。
概述
Qwen3-Reranker 是阿里巴巴 Qwen3 Embedding 系列中负责重排序的那一半,Qwen 团队在 2025 年 6 月 5 日发布了该系列。它建立在稠密的 Qwen3 模型之上,采用交叉编码器设计和 LoRA 微调,所以它把查询和文档拼成一段文本一起阅读。模型卡里的 Transformers 示例通过比较模型对“yes”和“no”两个词的概率来得到分数,Sentence Transformers 也可以把它当作 CrossEncoder 加载。它支持 100 多种语言,包括编程语言,上下文为 32K token,不过模型卡的示例把输入限制在 8192 个 token。重排序模型接受自定义指令,模型卡称指令通常能把结果提高 1% 到 5%,并建议用英文书写。Qwen 直接用高质量的标注数据训练重排序模型,省去了嵌入模型使用的弱监督阶段。
在 Qwen 的表格里,对 Qwen3-Embedding-0.6B 检索出的前 100 个候选重新排序,0.6B 重排序模型在 MTEB-R 上得 65.80,CMTEB-R 为 71.31,MMTEB-R 为 66.36,MLDR 为 67.28,MTEB-Code 为 73.42。4B 分别是 69.76、75.94、72.74、69.97 和 81.20,8B 分别是 69.02、77.45、72.94、70.19 和 81.22。同一张表里 BGE-reranker-v2-m3 分别是 57.03、72.16、58.36、59.51 和 41.38。4B 在 MTEB-R 和 FollowIR 指令遵循测试上胜过 8B,后者是 14.84 对 8.05,所以更大的模型不一定更好。这些都是 Qwen 自己的测试。
许可证是 Apache 2.0,BF16 权重分别为 1.19 GB、8.04 GB 和 16.38 GB。加载需要 Transformers 4.51 或更高版本,ggml-org 还发布了 0.6B 模型的 Q8_0 GGUF,可用于 llama.cpp。在截至 2026 年 11 月 11 日的 30 天里,Hugging Face 统计到 4B 模型约 263 万次下载,0.6B 约 129 万次,8B 约 7.9 万次。
适合做什么
- 对任何检索系统给出的前 50 到 100 个结果重新排序,覆盖 100 多种语言和代码
- 用针对你的领域或语言的自定义指令来调优排序,Qwen 称这能带来 1% 到 5% 的提升
- 0.6B 适合低成本部署,4B 在 Qwen 的表格里最均衡,8B 的中文和多语言分数最高
- 采用 Apache 2.0 许可证,可用于商业产品
需要注意
- 所有分数都是 Qwen 自己的,在 Qwen3-Embedding-0.6B 给出的候选上测得
- 4B 在部分测试上胜过 8B,所以请两个都在你的数据上试一试
- 交叉编码器必须读取每一对查询和候选,所以延迟随候选列表增长
- 它只读文本,图像和视频请用 Qwen3-VL-Reranker
性能数据来自开发方,未经独立验证。
需要多少内存?
以下是 Qwen3-Reranker 各版本的内存数据。图像、视频、语音和音乐管线还要加载文本编码器和解码器,所以所需内存可能比主检查点更大。
| 版本 | 参数量 | 下载大小 | 所需内存 | 可运行于 |
|---|---|---|---|---|
| Reranker-0.6B BF16 | 596M | 1.19 GB | 1.37 GB | 笔记本或手机 |
| Reranker-4B BF16 | 4.02B | 8.04 GB | 9.25 GB | 笔记本或手机 |
| Reranker-8B BF16 | 8.19B | 16 GB | 19 GB | 游戏显卡 |
下载大小包含运行模型所需的全部组件,例如生成器、文本编码器和解码器。所需内存优先采用开发方声明或已公开的实测最低值;没有时按下载大小加约 15% 估算。更大的图像、更长的片段和更高的分辨率需要更多内存。
许可证,用大白话说
最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。
延伸阅读
常见问题
- Qwen3-Reranker 是什么?
- Qwen3-Reranker 用来给搜索结果重新排序。它把问题和候选段落放在一起阅读,判断这段话是否回答了问题,让最好的段落排到前面。它有 0.6B、4B 和 8B 三种规格,采用 Apache 2.0,覆盖 100 多种语言和代码。
- Qwen3-Reranker 可以商用吗?
- 可以。Qwen3-Reranker 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
- Qwen3-Reranker 是开源的吗?
- Qwen3-Reranker 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
- 我能在自己的电脑上运行 Qwen3-Reranker 吗?
- 可以。最小版本 Reranker-0.6B 在 4 位精度下约需 1.37 GB 内存,现代笔记本或中端显卡即可胜任。
- Qwen3-Reranker 是什么时候发布的?
- Qwen3-Reranker 由 Alibaba Qwen 于 2025年6月5日 发布。
- Qwen3-Reranker 的上下文窗口有多长?
- Qwen3-Reranker 支持最长 32K token 的上下文窗口。
官方链接
来源
规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。
- Qwen3-Reranker-4B model card (Hugging Face) huggingface.co
- Qwen3-Reranker-0.6B model card (Hugging Face) huggingface.co
- Qwen3-Reranker-8B model card (Hugging Face) huggingface.co
- Qwen3 Embedding: Advancing Text Embedding and Reranking Through Foundation Models (Qwen, 5 June 2025) qwenlm.github.io
发布时间等信息最近核实于 2026年11月11日。
相关模型
| 模型 | 发布时间 | 参数量 | 上下文 | 许可证 | 最小版本所需内存 |
|---|---|---|---|---|---|
| BGE Reranker v2 m3 BAAI | 568M | 8K | Apache 2.0 (宽松) | 2.61 GB 笔记本或手机 | |
| Jina Reranker v3.5 Jina AI | 597M | 128K | CC BY-NC (非商用) | 0.46 GB 笔记本或手机 | |
| Qwen3-Embedding Alibaba Qwen | 600M – 7.57B | 32K | Apache 2.0 (宽松) | 1.38 GB 笔记本或手机 | |
| Qwen3-VL-Reranker Alibaba Qwen | 2.13B – 8.77B | 32K | Apache 2.0 (宽松) | 4.9 GB 笔记本或手机 |