Jina Reranker v3.5

Jina 的 0.6B 列表式重排序模型,一次处理整个候选列表,上下文 131K,采用非商业许可证。

一句话概括. Jina Reranker v3.5 用来给搜索结果重新排序:它一次性阅读问题和所有候选段落,再给每个段落打分。它是 0.6B 的小模型,擅长多种语言、表格和 JSON 等结构化数据以及法律和医疗文本,只能免费用于非商业用途。

概述

Jina Reranker v3.5 是 0.6B 的列表式重排序模型,模型卡称它是 2025 年 9 月发布的 jina-reranker-v3 的直接升级版。它不是把每个段落单独与查询打分,而是把查询和整个候选列表放进同一个上下文里一起打分,Jina 称之为“最后但不晚”的交互(last-but-not-late),所以整个列表必须放得进上下文窗口,模型卡给出的上限是 131K token。它基于 28 层的 Qwen3-0.6B,采用每三个滑动窗口层(窗口 1024)配两个全局层的重复结构,外加一个小型投影层,用法律、医疗、金融、多语言和结构化数据,经三阶段自蒸馏训练而成。Hugging Face 仓库在 2026 年 7 月 14 日首次出现,技术报告是 arXiv 2607.18152,日期为 7 月 20 日,Elastic 在 7 月 27 日发布了 Jina 的公告。

在 Jina 的表格里,对 jina-embeddings-v5-text-small 检索出的前 100 个结果重新排序,v3.5 在 BEIR 上得 63.20,MIRACL 为 74.11,RTEB 为 70.95,名为 Struct-IR 的结构化数据测试为 48.3,v3 分别是 62.10、72.20、68.01 和 38.7。同一张表里 Qwen3-Reranker-4B 的 BEIR 是 62.28,所以 v3.5 在这一项上胜过它,但 4B 模型在 MIRACL(76.56)、RTEB(77.68)和 Struct-IR(55.6)上领先。Jina 称 v3.5 在 A100 上比 v3 快 1.22 到 1.56 倍,具体取决于列表长度,其博客称它在判例检索上比 v3 高出 50% 以上。v3 在自己的论文 arXiv 2509.25085 里报告的 BEIR 是 61.94。这些数字都是 Jina 自己的。

许可证是 CC BY-NC 4.0,商业使用需要向 Jina 申请许可。v3.5 和 v3 的 BF16 权重都是 1.19 GB,Jina 还发布了 GGUF 文件,从 0.21 GB 到 1.20 GB 的 BF16 文件不等,其中 Q4_K_M 为 0.40 GB,另有 MLX 版本。加载需要 trust_remote_code,model.rerank 返回已打分的文档,并可选 top_n 参数。在截至 2026 年 11 月 11 日的 30 天里,Hugging Face 统计到 v3.5 约 17.2 万次下载,v3 约 76.2 万次。

适合做什么

  • 当整个列表放得进上下文窗口时,一次性对一小批候选重排序
  • 法律、医疗和金融文本以及表格、JSON 等结构化数据,这正是 v3.5 更新的重点
  • 低成本部署,可以用 1.19 GB 的 BF16 文件或 0.40 GB 的 Q4_K_M GGUF
  • 多语言搜索,v3.5 报告了 MIRACL 分数

需要注意

  • 许可证是非商业的,产品使用需要另向 Jina 申请许可
  • 查询和所有候选必须放进同一个上下文窗口,所以长列表需要拆分
  • 在 Jina 自己的表格里,Qwen3-Reranker-4B 在 MIRACL、RTEB 和 Struct-IR 上领先
  • 加载需要 trust_remote_code,所有分数都来自 Jina 自己

性能数据来自开发方,未经独立验证。

需要多少内存?

以下是 Jina Reranker v3.5 各版本的内存数据。图像、视频、语音和音乐管线还要加载文本编码器和解码器,所以所需内存可能比主检查点更大。

版本 参数量 下载大小 所需内存 可运行于
v3.5 (0.6B) BF16 597M 1.19 GB 1.37 GB 笔记本或手机
v3.5 GGUF Q4_K_M INT4 597M 0.4 GB 0.46 GB 笔记本或手机
v3 (0.6B, previous version) BF16 597M 1.19 GB 1.37 GB 笔记本或手机

下载大小包含运行模型所需的全部组件,例如生成器、文本编码器和解码器。所需内存优先采用开发方声明或已公开的实测最低值;没有时按下载大小加约 15% 估算。更大的图像、更长的片段和更高的分辨率需要更多内存。

许可证,用大白话说

一种知识共享许可证,允许任何人在署名的前提下复制、分享和改编作品,但仅限非商业用途。有些模型卡只写 CC BY-NC 而不注明版本,目前的版本是 4.0。

  • 需要署名或标明模型名称

进一步了解 CC BY-NC

延伸阅读

常见问题

Jina Reranker v3.5 是什么?
Jina Reranker v3.5 用来给搜索结果重新排序:它一次性阅读问题和所有候选段落,再给每个段落打分。它是 0.6B 的小模型,擅长多种语言、表格和 JSON 等结构化数据以及法律和医疗文本,只能免费用于非商业用途。
Jina Reranker v3.5 可以商用吗?
未经另行授权不可商用。Jina Reranker v3.5 采用 CC BY-NC 发布,仅允许研究和个人使用。
Jina Reranker v3.5 是开源的吗?
Jina Reranker v3.5 是开放权重模型,但不是严格意义上的开源。你可以下载模型文件,但 CC BY-NC 附带了开源促进会的定义所不允许的条件。
我能在自己的电脑上运行 Jina Reranker v3.5 吗?
可以。最小版本 v3.5 GGUF Q4_K_M 在 4 位精度下约需 0.46 GB 内存,现代笔记本或中端显卡即可胜任。
Jina Reranker v3.5 是什么时候发布的?
Jina Reranker v3.5 由 Jina AI 于 2026年7月14日 发布。
Jina Reranker v3.5 的上下文窗口有多长?
Jina Reranker v3.5 支持最长 128K token 的上下文窗口。

官方链接

来源

规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。

发布时间等信息最近核实于 2026年11月11日。

相关模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
Qwen3-Reranker Alibaba Qwen 596M – 8.19B 32K Apache 2.0 (宽松) 1.37 GB 笔记本或手机
BGE Reranker v2 m3 BAAI 568M 8K Apache 2.0 (宽松) 2.61 GB 笔记本或手机
Jina Embeddings v5 Jina AI 239M – 677M 32K CC BY-NC (非商用) 0.552 GB 笔记本或手机
Jina Embeddings v5 Omni Jina AI 990M – 1.63B 32K CC BY-NC (非商用) 2.27 GB 笔记本或手机