Granite 4.2
IBM 首个稠密推理版 Granite 家族:3B、8B、30B,可切换思考模式,支持工具调用,Apache 2.0,面向企业使用。
一句话概括. Granite 4.2 是 IBM 面向商业场景的三个开放 AI 模型。它们可以先逐步思考再回答,也可以跳过思考以提速,并且能调用工具。规模从适合小型机器的 30 亿参数模型,到适合单张大显卡的 300 亿参数模型。全部采用 Apache 2.0。
概述
IBM 于 2026 年 8 月 25 日发布 Granite 4.2。这是公司首个稠密、仅解码器的推理模型家族,有三种规模:3B、8B 和 30B。它们由 Granite 4.1 基座模型后训练而来;IBM 称这些基座模型从头预训练,使用了约 15 万亿 token,随后在推理和智能体数据上微调,再用多阶段强化学习流程优化。
每个模型都有思考和非思考模式,另有一个“低强度”模式,对简单问题只花少量推理预算,并原生支持 OpenAI 函数调用格式的工具调用。8B 和 30B 还经过智能体强化学习阶段,学习在沙箱环境中使用工具、编辑和运行代码、操作终端以及搜索网络。上下文长度原生为 128K,长上下文使用时可扩展到 512K。IBM 列出的测试语言包括英语、德语、西班牙语、法语、日语、葡萄牙语、阿拉伯语、捷克语、意大利语、韩语、荷兰语和中文。
BF16 检查点中,30B 约 59 GB,8B 约 18 GB,3B 约 7 GB。IBM 还发布了 FP8、MXFP4 和 GGUF 版本;30B 的 MXFP4 版本约 17 GB。许可证是 Apache 2.0,IBM 称所有 Granite 模型都采用该许可证。
适合做什么
- 重视清晰 Apache 2.0 许可的企业助手、检索增强生成和工具调用智能体
- 在单张显卡(30B MXFP4 约 17 GB)、工作站(8B)或小型设备(3B)上运行能力不错的推理模型
- 按请求开关推理,在质量和延迟之间取得平衡
- 12 种测试语言的多语言对话
需要注意
- 仅支持文本,这些模型没有视觉或音频输入
- 3B 模型没有 8B 和 30B 所经历的智能体训练阶段
- 12 种测试语言之外的语言可能可用,但未经充分测试
- 质量和基准说法来自 IBM 自己;请在自己的任务上与 Qwen、Gemma 等对比
性能数据来自开发方,未经独立验证。
需要多少内存?
以下为 3B 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。
| 版本 | 参数量 | BF16 | FP8 / INT8 | 4-bit (Q4) | 可运行于 |
|---|---|---|---|---|---|
| 3B BF16 | 3.7B | 8.51 GB | 4.25 GB | 2.55 GB | 笔记本或手机 |
| 8B BF16 | 8.8B | 20 GB | 10 GB | 6.07 GB | 笔记本或手机 |
| 30B BF16 | 29.3B | 67 GB | 34 GB | 20 GB | 游戏显卡 |
| 30B MXFP4 MXFP4 | 29.3B | 67 GB | 34 GB | 19 GB | 游戏显卡 |
估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。
许可证,用大白话说
最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。
延伸阅读
常见问题
- Granite 4.2 是什么?
- Granite 4.2 是 IBM 面向商业场景的三个开放 AI 模型。它们可以先逐步思考再回答,也可以跳过思考以提速,并且能调用工具。规模从适合小型机器的 30 亿参数模型,到适合单张大显卡的 300 亿参数模型。全部采用 Apache 2.0。
- Granite 4.2 可以商用吗?
- 可以。Granite 4.2 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
- Granite 4.2 是开源的吗?
- Granite 4.2 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
- 我能在自己的电脑上运行 Granite 4.2 吗?
- 可以。最小版本 3B 在 4 位精度下约需 2.55 GB 内存,现代笔记本或中端显卡即可胜任。
- Granite 4.2 是什么时候发布的?
- Granite 4.2 由 IBM 于 2026年8月25日 发布。
- Granite 4.2 的上下文窗口有多长?
- Granite 4.2 支持最长 128K token 的上下文窗口。
官方链接
来源
规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。
- Hugging Face blog: Granite 4.2 LLMs, How They're Built (25 Aug 2026) huggingface.co
- Granite-4.2-30B model card (Hugging Face) huggingface.co
- Granite 4.2 language models (GitHub) github.com
发布时间等信息最近核实于 2026年11月8日。
相关模型
| 模型 | 发布时间 | 参数量 | 上下文 | 许可证 | 最小版本所需内存 |
|---|---|---|---|---|---|
| MiniCPM5-2B OpenBMB | 1.08B – 2.52B | 128K | Apache 2.0 (宽松) | 0.745 GB 笔记本或手机 | |
| gpt-oss OpenAI | 21B – 117B 激活 5.1B | 128K | Apache 2.0 (宽松) | 15 GB 笔记本或手机 | |
| Olmo 3.1 Allen Institute for AI (Ai2) | 7.3B – 32.2B | 64K | Apache 2.0 (宽松) | 5.04 GB 笔记本或手机 | |
| TwIL webAI | 3.08B – 8.79B | 128K | webAI Non-Commercial (非商用) | 2.11 GB 笔记本或手机 |