NuExtract3

NuMind 的 4B、Apache 2.0 视觉语言模型,能按模板把文档转成 JSON,或转成 Markdown,推理可开关。

一句话概括. NuExtract3 读取扫描页、表单或发票,要么按你定义的字段(比如发票号和总金额)填写内容,要么把整页重写成干净的 Markdown。它小到一块消费级 GPU 就能运行,有一个先思考再回答的模式,并在 Apache 2.0 下免费使用。

概述

NuExtract3 是 NuMind 的 45.4 亿参数视觉语言模型,面向文档理解,2026 年 5 月 19 日发布,由 Qwen3.5-4B 微调而来。一个模型做两件事。做结构化提取时,你给它文本或页面图像、一个用值来标明字段类型的 JSON 模板,以及可选的指令或示例,它返回 JSON,找不到的内容填 null。NuMind 称模板语言有 20 种字段类型,包括原样字符串、日期、国家和货币。做内容提取时,它把页面图像转成 Markdown,表格用 HTML,数学公式用 LaTeX。它先经过监督微调,再经过强化学习,推理可以开启或关闭。

在 NuMind 内部约 600 份文档的结构化提取基准上,按叶子节点准确率评分,模型卡报告平均分为 0.651,Gemma-4-E4B-it 为 0.538,Qwen3.5-9B 为 0.479,Qwen3.5-4B 为 0.417,Nemotron-3-Nano-Omni 为 0.387,无法解析的输出有 27 个,而这四个对手是 31 到 229 个。NuMind 称计划发布这个基准。对于 Markdown,它用了自己设计的两个测试,一个是在复杂版面上用语言模型当评判,另一个是检查另一个模型能从这些 Markdown 里提取出多少字段,在两项里 NuExtract3 都领先于同等规模的模型。NuMind 指出,推理反而拖累了几个对手模型,它们陷入了重复循环,而且它自己基于评判的测试也有缺陷。这些都是开发方报告的结果。

BF16 权重 9.32 GB,NuMind 还发布了 FP8、W4A16 和 GGUF 版本,最小的是 2.78 GB 的 Q4_K_M 文件,另需单独的 0.68 GB 视觉投影文件。模型卡用 vLLM 提供服务,需要启用自定义代码,每个提示最多 99 张图像,窗口 131072 个词元,还可选多词元预测的推测解码。多页 PDF 需要先渲染成页面图像。模型卡建议先用非推理模式,只在难处理的文档上打开思考。截至 2026 年 11 月 11 日的 30 天内,Hugging Face 统计 BF16 仓库约有 4.07 万次下载,GGUF 仓库约有 2.17 万次。

适合做什么

  • 在单块 GPU 上把发票、收据、表单和合同转成符合你所定义模式的 JSON
  • 把扫描件和 PDF 处理成 Markdown,供检索增强生成流程使用
  • 表格被拆分或重叠等难处理的版面,可选的推理模式可能有帮助

需要注意

  • 基准测试来自 NuMind 自己,结构化提取测试集尚未公开,Markdown 测试依赖语言模型评判,NuMind 承认其有缺陷
  • 思考模式耗时耗词元,模型卡基准里平均每份文档约 2000 个思考词元,所以模型卡建议先关闭
  • PDF 要你自己转成页面图像,vLLM 需要自定义代码和图像数量限制的参数,GGUF 运行还需要单独的视觉投影文件
  • 它专门用于提取而不是通用聊天,模型卡没有给出最低显存

性能数据来自开发方,未经独立验证。

需要多少内存?

以下为 NuExtract3-Q4_K_M (GGUF) 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。

版本 参数量 BF16 FP8 / INT8 4-bit (Q4) 可运行于
NuExtract3 (BF16) BF16 4.54B 10 GB 5.22 GB 3.13 GB 笔记本或手机
NuExtract3-FP8 FP8 4.54B 10 GB 5.22 GB 3.13 GB 笔记本或手机
NuExtract3-W4A16 INT4 4.54B 10 GB 5.22 GB 6.07 GB 笔记本或手机
NuExtract3-Q4_K_M (GGUF) INT4 4.54B 10 GB 5.22 GB 3.06 GB 笔记本或手机

估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。

显存计算器

许可证,用大白话说

最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。

进一步了解 Apache 2.0

延伸阅读

常见问题

NuExtract3 是什么?
NuExtract3 读取扫描页、表单或发票,要么按你定义的字段(比如发票号和总金额)填写内容,要么把整页重写成干净的 Markdown。它小到一块消费级 GPU 就能运行,有一个先思考再回答的模式,并在 Apache 2.0 下免费使用。
NuExtract3 可以商用吗?
可以。NuExtract3 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
NuExtract3 是开源的吗?
NuExtract3 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
我能在自己的电脑上运行 NuExtract3 吗?
可以。最小版本 NuExtract3-Q4_K_M (GGUF) 在 4 位精度下约需 3.06 GB 内存,现代笔记本或中端显卡即可胜任。
NuExtract3 是什么时候发布的?
NuExtract3 由 NuMind 于 2026年5月19日 发布。
NuExtract3 的上下文窗口有多长?
NuExtract3 支持最长 128K token 的上下文窗口。

官方链接

来源

规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。

发布时间等信息最近核实于 2026年11月11日。

相关模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
Chandra OCR 2 Datalab 5.3B 256K OpenRAIL-M (Datalab) (附条件) 3.66 GB 笔记本或手机
LightOnOCR-3 LightOn 853M – 4.54B 256K Apache 2.0 (宽松) 0.589 GB 笔记本或手机
GLM-OCR Z.ai (Zhipu AI) 900M – MIT (宽松) 0.621 GB 笔记本或手机
PaddleOCR-VL Baidu 960M – Apache 2.0 (宽松) 0.662 GB 笔记本或手机