Nemotron 3.5 Embed
NVIDIA 的多模态检索模型:用 8B 或 1B 嵌入模型搜索文档页面图像和文本,另有配套的 8B 重排序模型。
一句话概括. Nemotron 3.5 Embed 能把文本,以及带表格和图表的文档页面图片,转换成数字,这样你就能用一个普通问题去搜索它们。它有 8B 和 1B 两种规格,NVIDIA 还发布了配套的 8B 模型,用来给最佳结果重新排序。许可证允许公司商用。
概述
NVIDIA 在 2026 年 10 月 20 日把 Nemotron 3.5 Embed 发布到了 Hugging Face,并在 10 月 21 日的博客文章中与 Nemotron 3.5 Rerank 和 Nemotron 3.5 Parse 一起发布。它是面向文档页面的检索模型:查询是文本,文档可以是页面图像、文本或两者兼有,所以表格、图表、信息图和示意图都可以直接搜索,不需要先做 OCR。它有三个检查点:8B 模型(83.8 亿参数,4,096 维向量,BF16 约 16.8 GB)、由它蒸馏而来的 1B 模型(15.5 亿参数,2,048 维,约 3.1 GB),以及 1B 的 NVFP4 版本(约 1.3 GB)。视觉编码器来自采用 Apache 2.0 的 Ministral 3,语言部分来自 NVIDIA 纯文本的 Nemotron 3 Embed 模型,并保持冻结。因此文本嵌入与 Nemotron 3 Embed 完全相同,现有的文本索引可以继续使用。上下文是 32,768 token,向量可以截短到 1,024 或 512 维再重新归一化。
NVIDIA 报告 8B 模型在 ViDoRe v3.1 上的 nDCG@10 为 61.17,在 2026 年 10 月 20 日的该排行榜上位列稠密检索模型第一,而它之前的 Llama Nemotron Embed VL 1B 为 52.23。1B 模型得 58.38,是 8B 成绩的 95.4%。在 MIRACL Vision 上,8B 模型得 72.6,比 Qwen3-VL-Embedding-8B 高 4.3 分。NVIDIA 称 NVFP4 版本保留了 1B 模型在 ViDoRe v3 上 99.85% 的准确度,同时在 GB200 GPU 上把吞吐量提高了 27.1%。配套的 Nemotron 3.5 Rerank 8B 在 ViDoRe v3.1 重排序排行榜上得 60.49,而 Qwen3-VL-Reranker-8B 为 59.17,NVIDIA 称加入它后智能体的 token 用量减少约 14%。以上都是 NVIDIA 自己的数字。
这些模型都采用 OpenMDW-1.1 许可证,模型卡称它们可用于商业或非商业用途。模型卡提供了 Transformers、Sentence Transformers 和 vLLM 的使用示例,NVIDIA 还提供用于部署服务的 NIM 容器。文本检索在 34 种语言上做过评估,图像检索在 18 种语言上做过评估,模型卡称其他语言可能也能用,但并未作出保证。
适合做什么
- 直接按页面图像搜索扫描件、幻灯片和报告,包括表格、图表和信息图,不需要 OCR 步骤
- 已经在使用 Nemotron 3 Embed 的搜索系统,因为文本嵌入保持不变,索引可以继续使用
- 用 1B 模型(约 3.1 GB)或它的 NVFP4 版本(约 1.3 GB)做较小规模的部署
- 与配套的 Nemotron 3.5 Rerank 8B 组成两阶段搜索
需要注意
- 查询必须是文本,所以不能用图片搜索
- 模型卡只声称文本在 34 种语言、图像在 18 种语言上做过评估
- NVFP4 的速度提升是在 NVIDIA GB200 硬件上测得的
- 所有分数都来自 NVIDIA 自己,排行榜名次的日期是 2026 年 10 月 20 日
- 除非截短,8B 的每个向量需要 4,096 维的存储空间
性能数据来自开发方,未经独立验证。
需要多少内存?
以下是 Nemotron 3.5 Embed 各版本的内存数据。图像、视频、语音和音乐管线还要加载文本编码器和解码器,所以所需内存可能比主检查点更大。
| 版本 | 参数量 | 下载大小 | 所需内存 | 可运行于 |
|---|---|---|---|---|
| Embed-1B (BF16) BF16 | 1.55B | 3.11 GB | 3.58 GB | 笔记本或手机 |
| Embed-1B (NVFP4) NVFP4 | 1.55B | 1.27 GB | 1.46 GB | 笔记本或手机 |
| Embed-8B (BF16) BF16 | 8.38B | 17 GB | 19 GB | 游戏显卡 |
下载大小包含运行模型所需的全部组件,例如生成器、文本编码器和解码器。所需内存优先采用开发方声明或已公开的实测最低值;没有时按下载大小加约 15% 估算。更大的图像、更长的片段和更高的分辨率需要更多内存。
许可证,用大白话说
由 Linux 基金会和 PyTorch 基金会为机器学习模型撰写的简短宽松许可证。它把模型、数据、文档和软件作为整体一并授权,且不限制你如何使用模型的输出。
延伸阅读
- 2026 年最佳开源嵌入(Embedding)模型
- EmbeddingGemma 2:把文本、图像、视频和音频放进一个 Apache 2.0 模型
- NVIDIA 的 Nemotron 3.5 Embed 和 Parse:把文档页面当作图像来检索和阅读
常见问题
- Nemotron 3.5 Embed 是什么?
- Nemotron 3.5 Embed 能把文本,以及带表格和图表的文档页面图片,转换成数字,这样你就能用一个普通问题去搜索它们。它有 8B 和 1B 两种规格,NVIDIA 还发布了配套的 8B 模型,用来给最佳结果重新排序。许可证允许公司商用。
- Nemotron 3.5 Embed 可以商用吗?
- 可以。Nemotron 3.5 Embed 采用 OpenMDW-1.1 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
- Nemotron 3.5 Embed 是开源的吗?
- Nemotron 3.5 Embed 是开放权重模型,但不是严格意义上的开源。你可以下载模型文件,但 OpenMDW-1.1 附带了开源促进会的定义所不允许的条件。
- 我能在自己的电脑上运行 Nemotron 3.5 Embed 吗?
- 可以。最小版本 Embed-1B (NVFP4) 在 4 位精度下约需 1.46 GB 内存,现代笔记本或中端显卡即可胜任。
- Nemotron 3.5 Embed 是什么时候发布的?
- Nemotron 3.5 Embed 由 NVIDIA 于 2026年10月20日 发布。
- Nemotron 3.5 Embed 的上下文窗口有多长?
- Nemotron 3.5 Embed 支持最长 32K token 的上下文窗口。
官方链接
来源
规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。
- NVIDIA Nemotron 3.5 Embed, Rerank, and Parse (Hugging Face blog, 21 Oct 2026) huggingface.co
- Nemotron-3.5-Embed-8B-BF16 model card (Hugging Face) huggingface.co
- Nemotron-3.5-Embed-1B-BF16 model card (Hugging Face) huggingface.co
- Nemotron-3.5-Rerank-8B-BF16 model card (Hugging Face) huggingface.co
发布时间等信息最近核实于 2026年11月11日。
相关模型
| 模型 | 发布时间 | 参数量 | 上下文 | 许可证 | 最小版本所需内存 |
|---|---|---|---|---|---|
| Qwen3-VL-Embedding Alibaba Qwen | 2.13B – 8.14B | 32K | Apache 2.0 (宽松) | 4.9 GB 笔记本或手机 | |
| EmbeddingGemma 2 Google DeepMind | 270M – 740M | 8K | Apache 2.0 (宽松) | 0.621 GB 笔记本或手机 | |
| Jina Embeddings v5 Jina AI | 239M – 677M | 32K | CC BY-NC (非商用) | 0.552 GB 笔记本或手机 | |
| Qwen3-Embedding Alibaba Qwen | 600M – 7.57B | 32K | Apache 2.0 (宽松) | 1.38 GB 笔记本或手机 |