Granite Embedding R2

IBM 的 Apache 2.0 ModernBERT 嵌入模型:47M 到 311M 参数,8K 到 32K 上下文,支持英语或 52 种重点语言加代码。

一句话概括. Granite Embedding R2 是 IBM 的一组小型嵌入模型,把文本和代码变成用于语义搜索的数字。它们很小,参数从 4,700 万到 3.11 亿,在 CPU 或小 GPU 上也能快速运行。既有英语模型,也有多语言模型,全部采用 Apache 2.0,训练数据据 IBM 称是宽松且适合企业使用的。

概述

IBM 分两步发布了第二代(R2)Granite Embedding 模型:2025 年 8 月 15 日发布两个英语模型,2026 年 4 月 29 日发布两个多语言模型。四个模型都采用 ModernBERT 架构和 Apache 2.0 许可证。英语的一对是 granite-embedding-english-r2(1.49 亿参数,768 维向量)和 granite-embedding-small-english-r2(4,700 万参数,384 维),上下文都是 8,192 token。多语言的一对是 3.11 亿参数的模型(768 维)和 9,700 万参数的模型(384 维),上下文为 32,768 token。

IBM 称多语言模型通过编码器的预训练覆盖 200 多种语言,并对 52 种语言和代码(Python、Go、Java、JavaScript、PHP、Ruby、SQL、C 和 C++)做了明确的检索与跨语言训练。它们支持套娃式(Matryoshka)降维,向量可以截短到 512、384、256 或 128 维,并提供 ONNX 和 OpenVINO 版本;模型卡还提到可与 vLLM 和 llama.cpp(GGUF)配合使用。IBM 称训练数据只使用宽松、适合企业的许可证,加上 IBM 自己收集或生成的数据,这对需要审查模型训练数据来源的公司很重要。

IBM 报告 3.11 亿参数的多语言模型在 18 项任务的多语言 MTEB 检索基准上得分 65.2,比上一代的 52.2 高出 13 分。这些是 IBM 自己的数据,选型前请在公开排行榜上与其他实验室的模型比较。小型英语模型是该系列下载量最高的,Hugging Face 上截至 2026 年 11 月 11 日的 30 天内约 680 万次。IBM 还发布了英语重排序模型 granite-embedding-reranker-english-r2,用来对最佳结果重新打分。

适合做什么

  • 在 CPU 和小 GPU 上做快速、低成本的语义搜索和检索增强生成
  • 用 311M 和 97M 模型做多语言和跨语言检索,包括代码检索
  • 处理最长 32K token(多语言)或 8K token(英语)的长文档
  • 想要 Apache 2.0 模型且训练数据政策宽松、有文档说明的公司

需要注意

  • 共有四个模型,规模、语言和上下文上限各不相同,请按语言和延迟选择
  • 在 52 种重点语言和代码上质量最好,其他语言仅依靠编码器的预训练
  • 基准分数由 IBM 自己报告,使用的是 IBM 选择的基准
  • 不同模型或规格的向量互不通用,更换意味着要重新索引

性能数据来自开发方,未经独立验证。

需要多少内存?

以下是 Granite Embedding R2 各版本的内存数据。图像、视频、语音和音乐管线还要加载文本编码器和解码器,所以所需内存可能比主检查点更大。

版本 参数量 下载大小 所需内存 可运行于
English small 47M BF16 48M 0.1 GB 0.115 GB 笔记本或手机
Multilingual 97M BF16 97M 0.2 GB 0.23 GB 笔记本或手机
English 149M BF16 149M 0.3 GB 0.345 GB 笔记本或手机
Multilingual 311M BF16 312M 0.62 GB 0.713 GB 笔记本或手机

下载大小包含运行模型所需的全部组件,例如生成器、文本编码器和解码器。所需内存优先采用开发方声明或已公开的实测最低值;没有时按下载大小加约 15% 估算。更大的图像、更长的片段和更高的分辨率需要更多内存。

许可证,用大白话说

最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。

进一步了解 Apache 2.0

延伸阅读

常见问题

Granite Embedding R2 是什么?
Granite Embedding R2 是 IBM 的一组小型嵌入模型,把文本和代码变成用于语义搜索的数字。它们很小,参数从 4,700 万到 3.11 亿,在 CPU 或小 GPU 上也能快速运行。既有英语模型,也有多语言模型,全部采用 Apache 2.0,训练数据据 IBM 称是宽松且适合企业使用的。
Granite Embedding R2 可以商用吗?
可以。Granite Embedding R2 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
Granite Embedding R2 是开源的吗?
Granite Embedding R2 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
我能在自己的电脑上运行 Granite Embedding R2 吗?
可以。最小版本 English small 47M 在 4 位精度下约需 0.115 GB 内存,现代笔记本或中端显卡即可胜任。
Granite Embedding R2 是什么时候发布的?
Granite Embedding R2 由 IBM 于 2026年4月29日 发布。
Granite Embedding R2 的上下文窗口有多长?
Granite Embedding R2 支持最长 32K token 的上下文窗口。

官方链接

来源

规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。

发布时间等信息最近核实于 2026年11月11日。

相关模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
BGE-M3 BAAI 568M 8K MIT (宽松) 2.61 GB 笔记本或手机
Qwen3-Embedding Alibaba Qwen 600M – 7.57B 32K Apache 2.0 (宽松) 1.38 GB 笔记本或手机
EmbeddingGemma 2 Google DeepMind 270M – 740M 8K Apache 2.0 (宽松) 0.621 GB 笔记本或手机
Jina Embeddings v5 Jina AI 239M – 677M 32K CC BY-NC (非商用) 0.552 GB 笔记本或手机