Jina Reranker v3.5
Jina 的 0.6B 列表式重排序模型,一次处理整个候选列表,上下文 131K,采用非商业许可证。
一句话概括. Jina Reranker v3.5 用来给搜索结果重新排序:它一次性阅读问题和所有候选段落,再给每个段落打分。它是 0.6B 的小模型,擅长多种语言、表格和 JSON 等结构化数据以及法律和医疗文本,只能免费用于非商业用途。
概述
Jina Reranker v3.5 是 0.6B 的列表式重排序模型,模型卡称它是 2025 年 9 月发布的 jina-reranker-v3 的直接升级版。它不是把每个段落单独与查询打分,而是把查询和整个候选列表放进同一个上下文里一起打分,Jina 称之为“最后但不晚”的交互(last-but-not-late),所以整个列表必须放得进上下文窗口,模型卡给出的上限是 131K token。它基于 28 层的 Qwen3-0.6B,采用每三个滑动窗口层(窗口 1024)配两个全局层的重复结构,外加一个小型投影层,用法律、医疗、金融、多语言和结构化数据,经三阶段自蒸馏训练而成。Hugging Face 仓库在 2026 年 7 月 14 日首次出现,技术报告是 arXiv 2607.18152,日期为 7 月 20 日,Elastic 在 7 月 27 日发布了 Jina 的公告。
在 Jina 的表格里,对 jina-embeddings-v5-text-small 检索出的前 100 个结果重新排序,v3.5 在 BEIR 上得 63.20,MIRACL 为 74.11,RTEB 为 70.95,名为 Struct-IR 的结构化数据测试为 48.3,v3 分别是 62.10、72.20、68.01 和 38.7。同一张表里 Qwen3-Reranker-4B 的 BEIR 是 62.28,所以 v3.5 在这一项上胜过它,但 4B 模型在 MIRACL(76.56)、RTEB(77.68)和 Struct-IR(55.6)上领先。Jina 称 v3.5 在 A100 上比 v3 快 1.22 到 1.56 倍,具体取决于列表长度,其博客称它在判例检索上比 v3 高出 50% 以上。v3 在自己的论文 arXiv 2509.25085 里报告的 BEIR 是 61.94。这些数字都是 Jina 自己的。
许可证是 CC BY-NC 4.0,商业使用需要向 Jina 申请许可。v3.5 和 v3 的 BF16 权重都是 1.19 GB,Jina 还发布了 GGUF 文件,从 0.21 GB 到 1.20 GB 的 BF16 文件不等,其中 Q4_K_M 为 0.40 GB,另有 MLX 版本。加载需要 trust_remote_code,model.rerank 返回已打分的文档,并可选 top_n 参数。在截至 2026 年 11 月 11 日的 30 天里,Hugging Face 统计到 v3.5 约 17.2 万次下载,v3 约 76.2 万次。
适合做什么
- 当整个列表放得进上下文窗口时,一次性对一小批候选重排序
- 法律、医疗和金融文本以及表格、JSON 等结构化数据,这正是 v3.5 更新的重点
- 低成本部署,可以用 1.19 GB 的 BF16 文件或 0.40 GB 的 Q4_K_M GGUF
- 多语言搜索,v3.5 报告了 MIRACL 分数
需要注意
- 许可证是非商业的,产品使用需要另向 Jina 申请许可
- 查询和所有候选必须放进同一个上下文窗口,所以长列表需要拆分
- 在 Jina 自己的表格里,Qwen3-Reranker-4B 在 MIRACL、RTEB 和 Struct-IR 上领先
- 加载需要 trust_remote_code,所有分数都来自 Jina 自己
性能数据来自开发方,未经独立验证。
需要多少内存?
以下是 Jina Reranker v3.5 各版本的内存数据。图像、视频、语音和音乐管线还要加载文本编码器和解码器,所以所需内存可能比主检查点更大。
| 版本 | 参数量 | 下载大小 | 所需内存 | 可运行于 |
|---|---|---|---|---|
| v3.5 (0.6B) BF16 | 597M | 1.19 GB | 1.37 GB | 笔记本或手机 |
| v3.5 GGUF Q4_K_M INT4 | 597M | 0.4 GB | 0.46 GB | 笔记本或手机 |
| v3 (0.6B, previous version) BF16 | 597M | 1.19 GB | 1.37 GB | 笔记本或手机 |
下载大小包含运行模型所需的全部组件,例如生成器、文本编码器和解码器。所需内存优先采用开发方声明或已公开的实测最低值;没有时按下载大小加约 15% 估算。更大的图像、更长的片段和更高的分辨率需要更多内存。
许可证,用大白话说
一种知识共享许可证,允许任何人在署名的前提下复制、分享和改编作品,但仅限非商业用途。有些模型卡只写 CC BY-NC 而不注明版本,目前的版本是 4.0。
- 需要署名或标明模型名称
延伸阅读
常见问题
- Jina Reranker v3.5 是什么?
- Jina Reranker v3.5 用来给搜索结果重新排序:它一次性阅读问题和所有候选段落,再给每个段落打分。它是 0.6B 的小模型,擅长多种语言、表格和 JSON 等结构化数据以及法律和医疗文本,只能免费用于非商业用途。
- Jina Reranker v3.5 可以商用吗?
- 未经另行授权不可商用。Jina Reranker v3.5 采用 CC BY-NC 发布,仅允许研究和个人使用。
- Jina Reranker v3.5 是开源的吗?
- Jina Reranker v3.5 是开放权重模型,但不是严格意义上的开源。你可以下载模型文件,但 CC BY-NC 附带了开源促进会的定义所不允许的条件。
- 我能在自己的电脑上运行 Jina Reranker v3.5 吗?
- 可以。最小版本 v3.5 GGUF Q4_K_M 在 4 位精度下约需 0.46 GB 内存,现代笔记本或中端显卡即可胜任。
- Jina Reranker v3.5 是什么时候发布的?
- Jina Reranker v3.5 由 Jina AI 于 2026年7月14日 发布。
- Jina Reranker v3.5 的上下文窗口有多长?
- Jina Reranker v3.5 支持最长 128K token 的上下文窗口。
官方链接
来源
规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。
- jina-reranker-v3.5 model card (Hugging Face) huggingface.co
- jina-reranker-v3.5: Hybrid-Attention Listwise Reranking with Self-Distillation for Domain-Robust Retrieval (arXiv 2607.18152) arxiv.org
- What's inside Jina's new 600 million parameter listwise reranker (Elasticsearch Labs, 27 July 2026) elastic.co
- jina-reranker-v3 model card (Hugging Face) huggingface.co
- jina-reranker-v3 technical report (arXiv 2509.25085) arxiv.org
发布时间等信息最近核实于 2026年11月11日。
相关模型
| 模型 | 发布时间 | 参数量 | 上下文 | 许可证 | 最小版本所需内存 |
|---|---|---|---|---|---|
| Qwen3-Reranker Alibaba Qwen | 596M – 8.19B | 32K | Apache 2.0 (宽松) | 1.37 GB 笔记本或手机 | |
| BGE Reranker v2 m3 BAAI | 568M | 8K | Apache 2.0 (宽松) | 2.61 GB 笔记本或手机 | |
| Jina Embeddings v5 Jina AI | 239M – 677M | 32K | CC BY-NC (非商用) | 0.552 GB 笔记本或手机 | |
| Jina Embeddings v5 Omni Jina AI | 990M – 1.63B | 32K | CC BY-NC (非商用) | 2.27 GB 笔记本或手机 |