Nanbeige4.3-33B
BOSS 直聘的 33B 稠密智能体模型:512K 上下文,标注 Apache 2.0,另有用量化感知训练得到的 INT4 版本。
一句话概括. Nanbeige4.3-33B 是一个 330 亿参数的文本模型,面向编程智能体和文档、表格之类的办公任务。它来自中国招聘平台 BOSS 直聘的语言模型团队。它的 Hugging Face 页面标注 Apache 2.0,按我们的估算,22.6 GB 的 4 位版本可以放进一块 32 GB 的 GPU。
概述
Nanbeige4.3-33B 是 BOSS 直聘语言模型团队南北阁(Nanbeige LLM Lab)推出的 Nanbeige4.3 系列旗舰。它于 2026 年 10 月 24 日出现在 Hugging Face,标注 Apache 2.0 许可证。团队称它是一个教师模型:一个大而强的智能体,计划用它把智能体能力蒸馏到更小的模型里,比如 Nanbeige4.3-3B,我们查看时后者尚未发布。它同样可以直接使用,面向编程和办公式的“协作”任务。
它是稠密文本模型,参数量 331 亿,其中约 307 亿不是词嵌入。配置是标准的 Llama 结构:52 层,隐藏维度 7168,56 个注意力头共享 8 个键值头,上下文窗口 524,288 token,所以常见工具无需自定义代码就能加载。对话模板里有默认开启的思考模式,以及“保留思考”设置,Nanbeige 建议在多轮工具调用和编程智能体中开启。模型卡建议智能体任务用 1.0 的温度,推理和聊天用 0.6,并给出了使用四块 GPU 的 vLLM 和 SGLang 命令。
在 Nanbeige 自己的表格里,所有模型使用同一套评测框架和最高思考强度,它在 Terminal-Bench 2.1(Terminus 2 框架)上得 80.9 分,对比 Qwen3.8-27B 的 73.0、Muse Glimmer-30B 的 61.8 和 Gemma 4 31B 的 47.2;在 DeepSWE 上得 65.5 分,Qwen3.8-27B 为 42.5。在 SWE-Bench Pro(60.3 对 61.7)和 GDPval(84.8 对 86.4)上落后于 Qwen3.8-27B,在 GPQA Diamond 上落后于 Gemma 4(89.5 对 91.3)。这些都是开发者的数字。除了 BF16 权重(66.2 GB),团队还发布了仅预训练的基础模型、FP8(35.5 GB)和 INT8(36.0 GB)版本,以及 22.6 GB 的 INT4 版本。INT4 版本使用了量化感知训练,包括从 BF16 模型蒸馏,以及对 INT4 模型本身做强化学习,所以它不是事后的简单转换,但模型卡没有给出它的成绩。所有仓库都没有 LICENSE 文件,Apache 2.0 条款来自 Hugging Face 的元数据。
适合做什么
- 需要长上下文的 30B 级编程智能体和办公式智能体任务
- 按我们的估算,用 INT4 版本可在一块 32 GB 及以上的 GPU 上运行,用 FP8 可在一块 48 GB GPU 上运行
- 想要能在原版 Transformers、vLLM 和 SGLang 中直接加载的模型的团队,因为它使用 Llama 结构
- 微调和蒸馏工作,因为官方也发布了基础模型
需要注意
- 所有基准数字都是 Nanbeige 自己的,每项测试用的评测框架不同,量化版本也没有给出成绩
- 仓库标注了 Apache 2.0 但没有 LICENSE 文件,发布产品前请向开发者确认条款
- 只处理文字,团队计划从它蒸馏出的更小模型在我们查看时还没有发布
- 在 Nanbeige 自己的表格里,它在 SWE-Bench Pro 和 GDPval 上落后于 Qwen3.8-27B
- BF16 权重有 66 GB,单块消费级 GPU 需要用量化版本
性能数据来自开发方,未经独立验证。
需要多少内存?
以下为 Nanbeige4.3-33B 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。
| 版本 | 参数量 | BF16 | FP8 / INT8 | 4-bit (Q4) | 可运行于 |
|---|---|---|---|---|---|
| Nanbeige4.3-33B BF16 | 33.1B | 76 GB | 38 GB | 23 GB | 游戏显卡 |
| Nanbeige4.3-33B-FP8 FP8 | 33.1B | 76 GB | 38 GB | 23 GB | 游戏显卡 |
| Nanbeige4.3-33B-INT8 INT8 | 33.1B | 76 GB | 38 GB | 23 GB | 游戏显卡 |
| Nanbeige4.3-33B-INT4 (quantization-aware training) INT4 | 33.1B | 76 GB | 38 GB | 25 GB | 游戏显卡 |
| Nanbeige4.3-33B-Base BF16 | 33.1B | 76 GB | 38 GB | 23 GB | 游戏显卡 |
估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。
许可证,用大白话说
最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。
延伸阅读
- Ripple-65B 与 Nanbeige4.3-33B 对比:该选哪个新的智能体模型?
- 2026 年最佳开源大模型
- 最适合编程和 AI 智能体的开源模型
- Nanbeige4.3-33B:33B 智能体模型,INT4 版本约 23 GB
- Ripple-65B Preview:Apache 2.0 的 65B 稠密智能体模型
- 超大开源模型开始直接以 4 位发布:对内存规划意味着什么
常见问题
- Nanbeige4.3-33B 是什么?
- Nanbeige4.3-33B 是一个 330 亿参数的文本模型,面向编程智能体和文档、表格之类的办公任务。它来自中国招聘平台 BOSS 直聘的语言模型团队。它的 Hugging Face 页面标注 Apache 2.0,按我们的估算,22.6 GB 的 4 位版本可以放进一块 32 GB 的 GPU。
- Nanbeige4.3-33B 可以商用吗?
- 可以。Nanbeige4.3-33B 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
- Nanbeige4.3-33B 是开源的吗?
- Nanbeige4.3-33B 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
- 我能在自己的电脑上运行 Nanbeige4.3-33B 吗?
- 可以,但需要一块好显卡。最小版本 Nanbeige4.3-33B 在 4 位精度下约需 23 GB 内存,适合 24 至 32 GB 的游戏显卡,或 32 GB 及以上内存的 Mac。
- Nanbeige4.3-33B 是什么时候发布的?
- Nanbeige4.3-33B 由 Nanbeige LLM Lab 于 2026年10月24日 发布。
- Nanbeige4.3-33B 的上下文窗口有多长?
- Nanbeige4.3-33B 支持最长 512K token 的上下文窗口。
官方链接
来源
规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。
- Nanbeige4.3-33B model card (Hugging Face) huggingface.co
- Nanbeige4.3-33B-INT4 model card (Hugging Face) huggingface.co
- Nanbeige4.3-33B-Base model card (Hugging Face) huggingface.co
- Nanbeige4.3-33B-FP8 model card (Hugging Face) huggingface.co
发布时间等信息最近核实于 2026年11月11日。
相关模型
| 模型 | 发布时间 | 参数量 | 上下文 | 许可证 | 最小版本所需内存 |
|---|---|---|---|---|---|
| Qwen3.8-27B Alibaba Qwen | 27.8B | 256K | Apache 2.0 (宽松) | 19 GB 游戏显卡 | |
| Muse Glimmer Meta | 29.6B | 128K | Apache 2.0 (宽松) | 20 GB 游戏显卡 | |
| Gemma 4 Google DeepMind | 5.1B – 30.7B | 256K | Apache 2.0 (宽松) | 3.52 GB 笔记本或手机 | |
| Ripple-65B Preview Ricursive Intelligence | 64.8B | 1M | Apache 2.0 (宽松) | 45 GB 工作站 |