BGE-M3

智源的 MIT 许可嵌入模型,支持 100 多种语言和 8,192 token 输入,一个模型同时提供稠密、稀疏和多向量检索。

一句话概括. BGE-M3 能把 100 多种语言的文本变成表达其含义的数字,让软件按语义而不是精确字词来检索。一个模型同时给出三种检索信号,可以组合起来获得更好的效果。它诞生于 2024 年初,却仍是 Hugging Face 上下载量最高的嵌入模型之一,许可证是 MIT。

概述

北京智源人工智能研究院(BAAI)于 2024 年 1 月 30 日发布 BGE-M3,是其 BGE 系列的新成员,并在论文《M3-Embedding》中做了介绍。三个 M 分别代表多语言(100 多种工作语言)、多粒度(输入从短句到最长 8,192 token 的文档)和多功能:同一个模型可以做稠密检索、稀疏(关键词权重)检索和多向量检索。权重是 24 层、隐藏维度 1,024 的 XLM-RoBERTa 风格编码器,检查点为 2.27 GB 的 FP32 文件,据此推算约为 5.68 亿参数(这是我们根据文件大小的估算)。论文称它用自知识蒸馏训练,即把三种检索模式的相关性分数合在一起作为教师信号。

模型卡建议先做混合检索,再做重排序。计算稠密向量的同时,稀疏输出能免费提供类似 BM25 的词权重,因此可以在一次检索里混合两者,再用 BAAI 的 bge-reranker 等交叉编码器对排在前面的结果重新打分。模型卡链接了 Vespa 和 Milvus 的混合检索示例,代码位于 BAAI 的 FlagEmbedding GitHub 仓库。许可证为 MIT。

如今 BGE-M3 已有将近三年历史,所以请查看最新的排行榜,不要假定它仍是最佳选择。它依然受欢迎(Hugging Face 显示截至 2026 年 11 月 11 日的 30 天内下载约 2,900 万次),是因为体积小、许可证宽松、支持多语言且用法灵活,而且大多数向量检索工具已经支持它。它 8,192 token 的输入上限比 Qwen3-Embedding 等较新模型的 32K 要短。

适合做什么

  • 覆盖 100 多种语言的多语言语义搜索和检索增强生成
  • 用一个模型混合稠密、稀疏和多向量分数的混合检索
  • 最长 8,192 token 的长段落和文档
  • 体积小、MIT 许可、在普通硬件上就能运行的默认选择

需要注意

  • 发布于 2024 年 1 月,较新的嵌入模型可能得分更高,请用自己的数据测试
  • 不同模型的向量互不通用,更换意味着要重新索引
  • 模型卡建议在检索后加一个重排序模型,以获得最佳准确度
  • 8,192 token 的上限比较新模型的 32K 要短

性能数据来自开发方,未经独立验证。

需要多少内存?

以下是 BGE-M3 各版本的内存数据。图像、视频、语音和音乐管线还要加载文本编码器和解码器,所以所需内存可能比主检查点更大。

版本 参数量 下载大小 所需内存 可运行于
BGE-M3 FP32 568M 2.27 GB 2.61 GB 笔记本或手机

下载大小包含运行模型所需的全部组件,例如生成器、文本编码器和解码器。所需内存优先采用开发方声明或已公开的实测最低值;没有时按下载大小加约 15% 估算。更大的图像、更长的片段和更高的分辨率需要更多内存。

许可证,用大白话说

最简短、最宽松的许可证。只要保留版权和许可声明,你几乎可以对模型做任何事。

进一步了解 MIT

延伸阅读

常见问题

BGE-M3 是什么?
BGE-M3 能把 100 多种语言的文本变成表达其含义的数字,让软件按语义而不是精确字词来检索。一个模型同时给出三种检索信号,可以组合起来获得更好的效果。它诞生于 2024 年初,却仍是 Hugging Face 上下载量最高的嵌入模型之一,许可证是 MIT。
BGE-M3 可以商用吗?
可以。BGE-M3 采用 MIT 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
BGE-M3 是开源的吗?
BGE-M3 采用 MIT 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
我能在自己的电脑上运行 BGE-M3 吗?
可以。最小版本 BGE-M3 在 4 位精度下约需 2.61 GB 内存,现代笔记本或中端显卡即可胜任。
BGE-M3 是什么时候发布的?
BGE-M3 由 BAAI 于 2024年1月30日 发布。
BGE-M3 的上下文窗口有多长?
BGE-M3 支持最长 8K token 的上下文窗口。

官方链接

来源

规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。

发布时间等信息最近核实于 2026年11月11日。

相关模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
Qwen3-Embedding Alibaba Qwen 600M – 7.57B 32K Apache 2.0 (宽松) 1.38 GB 笔记本或手机
Harrier OSS v1 Microsoft 270M – 27B 32K MIT (宽松) 0.621 GB 笔记本或手机
Granite Embedding R2 IBM 48M – 312M 32K Apache 2.0 (宽松) 0.115 GB 笔记本或手机
Jina Embeddings v5 Jina AI 239M – 677M 32K CC BY-NC (非商用) 0.552 GB 笔记本或手机