voyage-4-nano

Voyage AI 的第一个开放权重嵌入模型:346M 参数,Apache 2.0,向量与托管的 Voyage 4 模型共用同一空间。

一句话概括. voyage-4-nano 把多种语言的文本变成数字向量,搜索系统可以拿这些向量做比较,从而找到和问题意思相同的段落。它小到可以在笔记本上运行,在 Apache 2.0 下免费使用,向量又与 Voyage 托管模型的向量一致,所以你可以先在本地开发,以后切换也无需重建索引。

概述

voyage-4-nano 是 Voyage 4 文本嵌入系列中的开放权重成员,Voyage AI 于 2026 年 1 月 15 日宣布了该系列。它有 346M 参数,其中约 180M 在嵌入表之外,160M 在嵌入表之内。配置文件显示它是一个采用双向注意力的 Qwen3 模型,12 层,隐藏层维度 1024,NOTICE 文件说明该模型建立在 Qwen 3 之上,嵌入训练由 MongoDB, Inc. 完成。模型卡称它支持多语言,但没有列出语言,上下文长度写的是 32000 token,配置文件里则有 40960 个位置。向量默认是 2048 维,由于经过套娃(Matryoshka)训练,可以截短到 1024、512 或 256 维,量化感知训练则让它除了 32 位浮点数,还能输出有符号或无符号的 8 位整数和二值向量。

它的主要特点是共用嵌入空间。voyage-4-nano、voyage-4-lite、voyage-4 和 voyage-4-large 的向量可以直接比较,所以你可以先用大的托管模型把文档嵌入一次,再用 nano 模型回答查询,或者先用 nano 在本地开发,以后换到托管模型,无需重建索引。Voyage 把这样混用模型称为非对称检索,其博客称,较小的模型去检索由 voyage-4-large 嵌入的文档时,质量会全面提升。博客在 29 个 RTEB 数据集上把托管的 voyage-4-large 与 Gemini Embedding 001、Cohere Embed v4 和 OpenAI v3 Large 做了比较,但正文没有给出 nano 模型的数字,只有图表和一份表格。模型卡称该模型优于 voyage-3.5-lite 等大得多的模型,这是 Voyage 自己的说法。

许可证是 Apache 2.0,BF16 权重为 0.69 GB。查询和文档需要使用不同的提示,即“Represent the query for retrieving supporting documents: ”和“Represent the document for retrieval: ”,调用 encode_query 和 encode_document 时 Sentence Transformers 会自动添加。模型卡采用均值池化再做 L2 归一化,需要 trust_remote_code 和 Transformers 4.56 或更高版本,也给出了 vLLM 的用法。MongoDB 发布了供 Ollama 和 llama.cpp 使用的 GGUF 文件,F16 为 0.70 GB,Q8_0 为 0.37 GB,模型卡称它们与原模型处于同一嵌入空间。在截至 2026 年 11 月 11 日的 30 天里,Hugging Face 统计到主仓库约 9.1 万次下载,GGUF 仓库约 470 次。

适合做什么

  • 在本地开发和原型验证搜索与检索增强生成,以后换到托管的 Voyage 4 模型无需重建索引
  • 非对称检索:文档由较大的 Voyage 模型嵌入一次,查询由 nano 模型来回答
  • 在普通硬件上做多语言检索,可以用 0.69 GB 的 BF16 文件或 0.37 GB 的 Q8_0 GGUF
  • 紧凑存储,维度从 256 到 2048 可选,支持 int8 或二值输出

需要注意

  • 共用嵌入空间只有同时使用托管的 Voyage 4 模型才有意义,这些模型在免费额度之后通过付费 API 提供
  • 博客正文没有给出 nano 模型的分数,质量说法只来自 Voyage 的图表,需要在你自己的文档上测试
  • 查询和文档需要不同的提示,加载时需要 trust_remote_code 和 Transformers 4.56 或更高版本
  • 模型卡没有列出语言,而且它写的 32000 token 上下文与配置文件里的 40960 个位置不一致

性能数据来自开发方,未经独立验证。

需要多少内存?

以下是 voyage-4-nano 各版本的内存数据。图像、视频、语音和音乐管线还要加载文本编码器和解码器,所以所需内存可能比主检查点更大。

版本 参数量 下载大小 所需内存 可运行于
nano (2,048-dimension vectors) BF16 346M 0.69 GB 0.793 GB 笔记本或手机
nano GGUF Q8_0 (MongoDB) INT8 346M 0.37 GB 0.425 GB 笔记本或手机

下载大小包含运行模型所需的全部组件,例如生成器、文本编码器和解码器。所需内存优先采用开发方声明或已公开的实测最低值;没有时按下载大小加约 15% 估算。更大的图像、更长的片段和更高的分辨率需要更多内存。

许可证,用大白话说

最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。

进一步了解 Apache 2.0

延伸阅读

常见问题

voyage-4-nano 是什么?
voyage-4-nano 把多种语言的文本变成数字向量,搜索系统可以拿这些向量做比较,从而找到和问题意思相同的段落。它小到可以在笔记本上运行,在 Apache 2.0 下免费使用,向量又与 Voyage 托管模型的向量一致,所以你可以先在本地开发,以后切换也无需重建索引。
voyage-4-nano 可以商用吗?
可以。voyage-4-nano 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
voyage-4-nano 是开源的吗?
voyage-4-nano 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
我能在自己的电脑上运行 voyage-4-nano 吗?
可以。最小版本 nano GGUF Q8_0 (MongoDB) 在 4 位精度下约需 0.425 GB 内存,现代笔记本或中端显卡即可胜任。
voyage-4-nano 是什么时候发布的?
voyage-4-nano 由 Voyage AI 于 2026年1月15日 发布。
voyage-4-nano 的上下文窗口有多长?
voyage-4-nano 支持最长 32K token 的上下文窗口。

官方链接

来源

规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。

发布时间等信息最近核实于 2026年11月11日。

相关模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
Qwen3-Embedding Alibaba Qwen 600M – 7.57B 32K Apache 2.0 (宽松) 1.38 GB 笔记本或手机
Harrier OSS v1 Microsoft 270M – 27B 32K MIT (宽松) 0.621 GB 笔记本或手机
EmbeddingGemma 2 Google DeepMind 270M – 740M 8K Apache 2.0 (宽松) 0.621 GB 笔记本或手机
BGE-M3 BAAI 568M 8K MIT (宽松) 2.61 GB 笔记本或手机