Granite Embedding R2
IBM 的 Apache 2.0 ModernBERT 嵌入模型:47M 到 311M 参数,8K 到 32K 上下文,支持英语或 52 种重点语言加代码。
一句话概括. Granite Embedding R2 是 IBM 的一组小型嵌入模型,把文本和代码变成用于语义搜索的数字。它们很小,参数从 4,700 万到 3.11 亿,在 CPU 或小 GPU 上也能快速运行。既有英语模型,也有多语言模型,全部采用 Apache 2.0,训练数据据 IBM 称是宽松且适合企业使用的。
概述
IBM 分两步发布了第二代(R2)Granite Embedding 模型:2025 年 8 月 15 日发布两个英语模型,2026 年 4 月 29 日发布两个多语言模型。四个模型都采用 ModernBERT 架构和 Apache 2.0 许可证。英语的一对是 granite-embedding-english-r2(1.49 亿参数,768 维向量)和 granite-embedding-small-english-r2(4,700 万参数,384 维),上下文都是 8,192 token。多语言的一对是 3.11 亿参数的模型(768 维)和 9,700 万参数的模型(384 维),上下文为 32,768 token。
IBM 称多语言模型通过编码器的预训练覆盖 200 多种语言,并对 52 种语言和代码(Python、Go、Java、JavaScript、PHP、Ruby、SQL、C 和 C++)做了明确的检索与跨语言训练。它们支持套娃式(Matryoshka)降维,向量可以截短到 512、384、256 或 128 维,并提供 ONNX 和 OpenVINO 版本;模型卡还提到可与 vLLM 和 llama.cpp(GGUF)配合使用。IBM 称训练数据只使用宽松、适合企业的许可证,加上 IBM 自己收集或生成的数据,这对需要审查模型训练数据来源的公司很重要。
IBM 报告 3.11 亿参数的多语言模型在 18 项任务的多语言 MTEB 检索基准上得分 65.2,比上一代的 52.2 高出 13 分。这些是 IBM 自己的数据,选型前请在公开排行榜上与其他实验室的模型比较。小型英语模型是该系列下载量最高的,Hugging Face 上截至 2026 年 11 月 11 日的 30 天内约 680 万次。IBM 还发布了英语重排序模型 granite-embedding-reranker-english-r2,用来对最佳结果重新打分。
适合做什么
- 在 CPU 和小 GPU 上做快速、低成本的语义搜索和检索增强生成
- 用 311M 和 97M 模型做多语言和跨语言检索,包括代码检索
- 处理最长 32K token(多语言)或 8K token(英语)的长文档
- 想要 Apache 2.0 模型且训练数据政策宽松、有文档说明的公司
需要注意
- 共有四个模型,规模、语言和上下文上限各不相同,请按语言和延迟选择
- 在 52 种重点语言和代码上质量最好,其他语言仅依靠编码器的预训练
- 基准分数由 IBM 自己报告,使用的是 IBM 选择的基准
- 不同模型或规格的向量互不通用,更换意味着要重新索引
性能数据来自开发方,未经独立验证。
需要多少内存?
以下是 Granite Embedding R2 各版本的内存数据。图像、视频、语音和音乐管线还要加载文本编码器和解码器,所以所需内存可能比主检查点更大。
| 版本 | 参数量 | 下载大小 | 所需内存 | 可运行于 |
|---|---|---|---|---|
| English small 47M BF16 | 48M | 0.1 GB | 0.115 GB | 笔记本或手机 |
| Multilingual 97M BF16 | 97M | 0.2 GB | 0.23 GB | 笔记本或手机 |
| English 149M BF16 | 149M | 0.3 GB | 0.345 GB | 笔记本或手机 |
| Multilingual 311M BF16 | 312M | 0.62 GB | 0.713 GB | 笔记本或手机 |
下载大小包含运行模型所需的全部组件,例如生成器、文本编码器和解码器。所需内存优先采用开发方声明或已公开的实测最低值;没有时按下载大小加约 15% 估算。更大的图像、更长的片段和更高的分辨率需要更多内存。
许可证,用大白话说
最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。
延伸阅读
常见问题
- Granite Embedding R2 是什么?
- Granite Embedding R2 是 IBM 的一组小型嵌入模型,把文本和代码变成用于语义搜索的数字。它们很小,参数从 4,700 万到 3.11 亿,在 CPU 或小 GPU 上也能快速运行。既有英语模型,也有多语言模型,全部采用 Apache 2.0,训练数据据 IBM 称是宽松且适合企业使用的。
- Granite Embedding R2 可以商用吗?
- 可以。Granite Embedding R2 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
- Granite Embedding R2 是开源的吗?
- Granite Embedding R2 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
- 我能在自己的电脑上运行 Granite Embedding R2 吗?
- 可以。最小版本 English small 47M 在 4 位精度下约需 0.115 GB 内存,现代笔记本或中端显卡即可胜任。
- Granite Embedding R2 是什么时候发布的?
- Granite Embedding R2 由 IBM 于 2026年4月29日 发布。
- Granite Embedding R2 的上下文窗口有多长?
- Granite Embedding R2 支持最长 32K token 的上下文窗口。
官方链接
来源
规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。
- Granite-Embedding-311M-Multilingual-R2 model card (Hugging Face) huggingface.co
- Granite-Embedding-Small-English-R2 model card (Hugging Face) huggingface.co
- Granite Embedding R2 Models (arXiv 2508.21085) arxiv.org
- Granite Embedding repository (GitHub) github.com
发布时间等信息最近核实于 2026年11月11日。
相关模型
| 模型 | 发布时间 | 参数量 | 上下文 | 许可证 | 最小版本所需内存 |
|---|---|---|---|---|---|
| BGE-M3 BAAI | 568M | 8K | MIT (宽松) | 2.61 GB 笔记本或手机 | |
| Qwen3-Embedding Alibaba Qwen | 600M – 7.57B | 32K | Apache 2.0 (宽松) | 1.38 GB 笔记本或手机 | |
| EmbeddingGemma 2 Google DeepMind | 270M – 740M | 8K | Apache 2.0 (宽松) | 0.621 GB 笔记本或手机 | |
| Jina Embeddings v5 Jina AI | 239M – 677M | 32K | CC BY-NC (非商用) | 0.552 GB 笔记本或手机 |