Nemotron 3.5 Embed

NVIDIA 的多模态检索模型:用 8B 或 1B 嵌入模型搜索文档页面图像和文本,另有配套的 8B 重排序模型。

一句话概括. Nemotron 3.5 Embed 能把文本,以及带表格和图表的文档页面图片,转换成数字,这样你就能用一个普通问题去搜索它们。它有 8B 和 1B 两种规格,NVIDIA 还发布了配套的 8B 模型,用来给最佳结果重新排序。许可证允许公司商用。

概述

NVIDIA 在 2026 年 10 月 20 日把 Nemotron 3.5 Embed 发布到了 Hugging Face,并在 10 月 21 日的博客文章中与 Nemotron 3.5 Rerank 和 Nemotron 3.5 Parse 一起发布。它是面向文档页面的检索模型:查询是文本,文档可以是页面图像、文本或两者兼有,所以表格、图表、信息图和示意图都可以直接搜索,不需要先做 OCR。它有三个检查点:8B 模型(83.8 亿参数,4,096 维向量,BF16 约 16.8 GB)、由它蒸馏而来的 1B 模型(15.5 亿参数,2,048 维,约 3.1 GB),以及 1B 的 NVFP4 版本(约 1.3 GB)。视觉编码器来自采用 Apache 2.0 的 Ministral 3,语言部分来自 NVIDIA 纯文本的 Nemotron 3 Embed 模型,并保持冻结。因此文本嵌入与 Nemotron 3 Embed 完全相同,现有的文本索引可以继续使用。上下文是 32,768 token,向量可以截短到 1,024 或 512 维再重新归一化。

NVIDIA 报告 8B 模型在 ViDoRe v3.1 上的 nDCG@10 为 61.17,在 2026 年 10 月 20 日的该排行榜上位列稠密检索模型第一,而它之前的 Llama Nemotron Embed VL 1B 为 52.23。1B 模型得 58.38,是 8B 成绩的 95.4%。在 MIRACL Vision 上,8B 模型得 72.6,比 Qwen3-VL-Embedding-8B 高 4.3 分。NVIDIA 称 NVFP4 版本保留了 1B 模型在 ViDoRe v3 上 99.85% 的准确度,同时在 GB200 GPU 上把吞吐量提高了 27.1%。配套的 Nemotron 3.5 Rerank 8B 在 ViDoRe v3.1 重排序排行榜上得 60.49,而 Qwen3-VL-Reranker-8B 为 59.17,NVIDIA 称加入它后智能体的 token 用量减少约 14%。以上都是 NVIDIA 自己的数字。

这些模型都采用 OpenMDW-1.1 许可证,模型卡称它们可用于商业或非商业用途。模型卡提供了 Transformers、Sentence Transformers 和 vLLM 的使用示例,NVIDIA 还提供用于部署服务的 NIM 容器。文本检索在 34 种语言上做过评估,图像检索在 18 种语言上做过评估,模型卡称其他语言可能也能用,但并未作出保证。

适合做什么

  • 直接按页面图像搜索扫描件、幻灯片和报告,包括表格、图表和信息图,不需要 OCR 步骤
  • 已经在使用 Nemotron 3 Embed 的搜索系统,因为文本嵌入保持不变,索引可以继续使用
  • 用 1B 模型(约 3.1 GB)或它的 NVFP4 版本(约 1.3 GB)做较小规模的部署
  • 与配套的 Nemotron 3.5 Rerank 8B 组成两阶段搜索

需要注意

  • 查询必须是文本,所以不能用图片搜索
  • 模型卡只声称文本在 34 种语言、图像在 18 种语言上做过评估
  • NVFP4 的速度提升是在 NVIDIA GB200 硬件上测得的
  • 所有分数都来自 NVIDIA 自己,排行榜名次的日期是 2026 年 10 月 20 日
  • 除非截短,8B 的每个向量需要 4,096 维的存储空间

性能数据来自开发方,未经独立验证。

需要多少内存?

以下是 Nemotron 3.5 Embed 各版本的内存数据。图像、视频、语音和音乐管线还要加载文本编码器和解码器,所以所需内存可能比主检查点更大。

版本 参数量 下载大小 所需内存 可运行于
Embed-1B (BF16) BF16 1.55B 3.11 GB 3.58 GB 笔记本或手机
Embed-1B (NVFP4) NVFP4 1.55B 1.27 GB 1.46 GB 笔记本或手机
Embed-8B (BF16) BF16 8.38B 17 GB 19 GB 游戏显卡

下载大小包含运行模型所需的全部组件,例如生成器、文本编码器和解码器。所需内存优先采用开发方声明或已公开的实测最低值;没有时按下载大小加约 15% 估算。更大的图像、更长的片段和更高的分辨率需要更多内存。

许可证,用大白话说

由 Linux 基金会和 PyTorch 基金会为机器学习模型撰写的简短宽松许可证。它把模型、数据、文档和软件作为整体一并授权,且不限制你如何使用模型的输出。

进一步了解 OpenMDW-1.1

延伸阅读

常见问题

Nemotron 3.5 Embed 是什么?
Nemotron 3.5 Embed 能把文本,以及带表格和图表的文档页面图片,转换成数字,这样你就能用一个普通问题去搜索它们。它有 8B 和 1B 两种规格,NVIDIA 还发布了配套的 8B 模型,用来给最佳结果重新排序。许可证允许公司商用。
Nemotron 3.5 Embed 可以商用吗?
可以。Nemotron 3.5 Embed 采用 OpenMDW-1.1 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
Nemotron 3.5 Embed 是开源的吗?
Nemotron 3.5 Embed 是开放权重模型,但不是严格意义上的开源。你可以下载模型文件,但 OpenMDW-1.1 附带了开源促进会的定义所不允许的条件。
我能在自己的电脑上运行 Nemotron 3.5 Embed 吗?
可以。最小版本 Embed-1B (NVFP4) 在 4 位精度下约需 1.46 GB 内存,现代笔记本或中端显卡即可胜任。
Nemotron 3.5 Embed 是什么时候发布的?
Nemotron 3.5 Embed 由 NVIDIA 于 2026年10月20日 发布。
Nemotron 3.5 Embed 的上下文窗口有多长?
Nemotron 3.5 Embed 支持最长 32K token 的上下文窗口。

官方链接

来源

规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。

发布时间等信息最近核实于 2026年11月11日。

相关模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
Qwen3-VL-Embedding Alibaba Qwen 2.13B – 8.14B 32K Apache 2.0 (宽松) 4.9 GB 笔记本或手机
EmbeddingGemma 2 Google DeepMind 270M – 740M 8K Apache 2.0 (宽松) 0.621 GB 笔记本或手机
Jina Embeddings v5 Jina AI 239M – 677M 32K CC BY-NC (非商用) 0.552 GB 笔记本或手机
Qwen3-Embedding Alibaba Qwen 600M – 7.57B 32K Apache 2.0 (宽松) 1.38 GB 笔记本或手机