Granite 4.2

IBM 首个稠密推理版 Granite 家族:3B、8B、30B,可切换思考模式,支持工具调用,Apache 2.0,面向企业使用。

一句话概括. Granite 4.2 是 IBM 面向商业场景的三个开放 AI 模型。它们可以先逐步思考再回答,也可以跳过思考以提速,并且能调用工具。规模从适合小型机器的 30 亿参数模型,到适合单张大显卡的 300 亿参数模型。全部采用 Apache 2.0。

概述

IBM 于 2026 年 8 月 25 日发布 Granite 4.2。这是公司首个稠密、仅解码器的推理模型家族,有三种规模:3B、8B 和 30B。它们由 Granite 4.1 基座模型后训练而来;IBM 称这些基座模型从头预训练,使用了约 15 万亿 token,随后在推理和智能体数据上微调,再用多阶段强化学习流程优化。

每个模型都有思考和非思考模式,另有一个“低强度”模式,对简单问题只花少量推理预算,并原生支持 OpenAI 函数调用格式的工具调用。8B 和 30B 还经过智能体强化学习阶段,学习在沙箱环境中使用工具、编辑和运行代码、操作终端以及搜索网络。上下文长度原生为 128K,长上下文使用时可扩展到 512K。IBM 列出的测试语言包括英语、德语、西班牙语、法语、日语、葡萄牙语、阿拉伯语、捷克语、意大利语、韩语、荷兰语和中文。

BF16 检查点中,30B 约 59 GB,8B 约 18 GB,3B 约 7 GB。IBM 还发布了 FP8、MXFP4 和 GGUF 版本;30B 的 MXFP4 版本约 17 GB。许可证是 Apache 2.0,IBM 称所有 Granite 模型都采用该许可证。

适合做什么

  • 重视清晰 Apache 2.0 许可的企业助手、检索增强生成和工具调用智能体
  • 在单张显卡(30B MXFP4 约 17 GB)、工作站(8B)或小型设备(3B)上运行能力不错的推理模型
  • 按请求开关推理,在质量和延迟之间取得平衡
  • 12 种测试语言的多语言对话

需要注意

  • 仅支持文本,这些模型没有视觉或音频输入
  • 3B 模型没有 8B 和 30B 所经历的智能体训练阶段
  • 12 种测试语言之外的语言可能可用,但未经充分测试
  • 质量和基准说法来自 IBM 自己;请在自己的任务上与 Qwen、Gemma 等对比

性能数据来自开发方,未经独立验证。

需要多少内存?

以下为 3B 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。

版本 参数量 BF16 FP8 / INT8 4-bit (Q4) 可运行于
3B BF16 3.7B 8.51 GB 4.25 GB 2.55 GB 笔记本或手机
8B BF16 8.8B 20 GB 10 GB 6.07 GB 笔记本或手机
30B BF16 29.3B 67 GB 34 GB 20 GB 游戏显卡
30B MXFP4 MXFP4 29.3B 67 GB 34 GB 19 GB 游戏显卡

估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。

显存计算器

许可证,用大白话说

最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。

进一步了解 Apache 2.0

延伸阅读

常见问题

Granite 4.2 是什么?
Granite 4.2 是 IBM 面向商业场景的三个开放 AI 模型。它们可以先逐步思考再回答,也可以跳过思考以提速,并且能调用工具。规模从适合小型机器的 30 亿参数模型,到适合单张大显卡的 300 亿参数模型。全部采用 Apache 2.0。
Granite 4.2 可以商用吗?
可以。Granite 4.2 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
Granite 4.2 是开源的吗?
Granite 4.2 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
我能在自己的电脑上运行 Granite 4.2 吗?
可以。最小版本 3B 在 4 位精度下约需 2.55 GB 内存,现代笔记本或中端显卡即可胜任。
Granite 4.2 是什么时候发布的?
Granite 4.2 由 IBM 于 2026年8月25日 发布。
Granite 4.2 的上下文窗口有多长?
Granite 4.2 支持最长 128K token 的上下文窗口。

官方链接

来源

规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。

发布时间等信息最近核实于 2026年11月8日。

相关模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
MiniCPM5-2B OpenBMB 1.08B – 2.52B 128K Apache 2.0 (宽松) 0.745 GB 笔记本或手机
gpt-oss OpenAI 21B – 117B 激活 5.1B 128K Apache 2.0 (宽松) 15 GB 笔记本或手机
Olmo 3.1 Allen Institute for AI (Ai2) 7.3B – 32.2B 64K Apache 2.0 (宽松) 5.04 GB 笔记本或手机
TwIL webAI 3.08B – 8.79B 128K webAI Non-Commercial (非商用) 2.11 GB 笔记本或手机