NuExtract3
NuMind 的 4B、Apache 2.0 视觉语言模型,能按模板把文档转成 JSON,或转成 Markdown,推理可开关。
一句话概括. NuExtract3 读取扫描页、表单或发票,要么按你定义的字段(比如发票号和总金额)填写内容,要么把整页重写成干净的 Markdown。它小到一块消费级 GPU 就能运行,有一个先思考再回答的模式,并在 Apache 2.0 下免费使用。
概述
NuExtract3 是 NuMind 的 45.4 亿参数视觉语言模型,面向文档理解,2026 年 5 月 19 日发布,由 Qwen3.5-4B 微调而来。一个模型做两件事。做结构化提取时,你给它文本或页面图像、一个用值来标明字段类型的 JSON 模板,以及可选的指令或示例,它返回 JSON,找不到的内容填 null。NuMind 称模板语言有 20 种字段类型,包括原样字符串、日期、国家和货币。做内容提取时,它把页面图像转成 Markdown,表格用 HTML,数学公式用 LaTeX。它先经过监督微调,再经过强化学习,推理可以开启或关闭。
在 NuMind 内部约 600 份文档的结构化提取基准上,按叶子节点准确率评分,模型卡报告平均分为 0.651,Gemma-4-E4B-it 为 0.538,Qwen3.5-9B 为 0.479,Qwen3.5-4B 为 0.417,Nemotron-3-Nano-Omni 为 0.387,无法解析的输出有 27 个,而这四个对手是 31 到 229 个。NuMind 称计划发布这个基准。对于 Markdown,它用了自己设计的两个测试,一个是在复杂版面上用语言模型当评判,另一个是检查另一个模型能从这些 Markdown 里提取出多少字段,在两项里 NuExtract3 都领先于同等规模的模型。NuMind 指出,推理反而拖累了几个对手模型,它们陷入了重复循环,而且它自己基于评判的测试也有缺陷。这些都是开发方报告的结果。
BF16 权重 9.32 GB,NuMind 还发布了 FP8、W4A16 和 GGUF 版本,最小的是 2.78 GB 的 Q4_K_M 文件,另需单独的 0.68 GB 视觉投影文件。模型卡用 vLLM 提供服务,需要启用自定义代码,每个提示最多 99 张图像,窗口 131072 个词元,还可选多词元预测的推测解码。多页 PDF 需要先渲染成页面图像。模型卡建议先用非推理模式,只在难处理的文档上打开思考。截至 2026 年 11 月 11 日的 30 天内,Hugging Face 统计 BF16 仓库约有 4.07 万次下载,GGUF 仓库约有 2.17 万次。
适合做什么
- 在单块 GPU 上把发票、收据、表单和合同转成符合你所定义模式的 JSON
- 把扫描件和 PDF 处理成 Markdown,供检索增强生成流程使用
- 表格被拆分或重叠等难处理的版面,可选的推理模式可能有帮助
需要注意
- 基准测试来自 NuMind 自己,结构化提取测试集尚未公开,Markdown 测试依赖语言模型评判,NuMind 承认其有缺陷
- 思考模式耗时耗词元,模型卡基准里平均每份文档约 2000 个思考词元,所以模型卡建议先关闭
- PDF 要你自己转成页面图像,vLLM 需要自定义代码和图像数量限制的参数,GGUF 运行还需要单独的视觉投影文件
- 它专门用于提取而不是通用聊天,模型卡没有给出最低显存
性能数据来自开发方,未经独立验证。
需要多少内存?
以下为 NuExtract3-Q4_K_M (GGUF) 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。
| 版本 | 参数量 | BF16 | FP8 / INT8 | 4-bit (Q4) | 可运行于 |
|---|---|---|---|---|---|
| NuExtract3 (BF16) BF16 | 4.54B | 10 GB | 5.22 GB | 3.13 GB | 笔记本或手机 |
| NuExtract3-FP8 FP8 | 4.54B | 10 GB | 5.22 GB | 3.13 GB | 笔记本或手机 |
| NuExtract3-W4A16 INT4 | 4.54B | 10 GB | 5.22 GB | 6.07 GB | 笔记本或手机 |
| NuExtract3-Q4_K_M (GGUF) INT4 | 4.54B | 10 GB | 5.22 GB | 3.06 GB | 笔记本或手机 |
估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。
许可证,用大白话说
最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。
延伸阅读
常见问题
- NuExtract3 是什么?
- NuExtract3 读取扫描页、表单或发票,要么按你定义的字段(比如发票号和总金额)填写内容,要么把整页重写成干净的 Markdown。它小到一块消费级 GPU 就能运行,有一个先思考再回答的模式,并在 Apache 2.0 下免费使用。
- NuExtract3 可以商用吗?
- 可以。NuExtract3 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
- NuExtract3 是开源的吗?
- NuExtract3 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
- 我能在自己的电脑上运行 NuExtract3 吗?
- 可以。最小版本 NuExtract3-Q4_K_M (GGUF) 在 4 位精度下约需 3.06 GB 内存,现代笔记本或中端显卡即可胜任。
- NuExtract3 是什么时候发布的?
- NuExtract3 由 NuMind 于 2026年5月19日 发布。
- NuExtract3 的上下文窗口有多长?
- NuExtract3 支持最长 128K token 的上下文窗口。
官方链接
来源
规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。
- NuExtract3 model card (Hugging Face) huggingface.co
- NuExtract3: The Reasoning Open-Source OCR & Structured Extraction LLM (NuMind blog) numind.ai
- NuExtract repository (GitHub) github.com
- NuExtract3-GGUF model card (Hugging Face) huggingface.co
发布时间等信息最近核实于 2026年11月11日。
相关模型
| 模型 | 发布时间 | 参数量 | 上下文 | 许可证 | 最小版本所需内存 |
|---|---|---|---|---|---|
| Chandra OCR 2 Datalab | 5.3B | 256K | OpenRAIL-M (Datalab) (附条件) | 3.66 GB 笔记本或手机 | |
| LightOnOCR-3 LightOn | 853M – 4.54B | 256K | Apache 2.0 (宽松) | 0.589 GB 笔记本或手机 | |
| GLM-OCR Z.ai (Zhipu AI) | 900M | – | MIT (宽松) | 0.621 GB 笔记本或手机 | |
| PaddleOCR-VL Baidu | 960M | – | Apache 2.0 (宽松) | 0.662 GB 笔记本或手机 |