Mellum2.1
JetBrains 的 12B 混合专家编程智能体模型,激活 2.5B 参数,上下文 128K,采用 Apache 2.0 许可证。
一句话概括. Mellum2.1 是 IntelliJ IDEA 和 PyCharm 的开发商 JetBrains 推出的 120 亿参数模型,设计用来在代码仓库里工作,并充当快速的子智能体。每个 token 只激活 25 亿参数,所以运行很快,4 位文件约 7 到 8 GB。它先推理再回答,许可证是 Apache 2.0。
概述
Mellum2.1 是 Mellum2 在 2026 年 10 月的更新版。Mellum2 是 JetBrains 在 2026 年 6 月开源的 12B 混合专家模型,是其 4B 稠密补全模型 Mellum 的后继者。架构没有变化:12.15B 参数、28 层,64 个专家每个 token 激活 8 个(激活参数 2.5B),分组查询注意力有 4 个键值头,每四层中有三层使用滑动窗口注意力,窗口 1024 个 token,上下文 131,072 个 token。Mellum2 技术报告称基础模型训练了约 10.6 万亿个 token。几乎所有新增工作都在后训练上:JetBrains 说强化学习成了主要阶段,加入了数学、竞赛编程、科学、工具调用和软件工程的新任务,以及数以百万计的沙盒运行,让模型在真实仓库里使用终端和文件编辑工具工作,测试通过才获得奖励。Mellum2.1 是思考型模型,会先写出推理过程再回答。
在 JetBrains 的表格里,所有模型都用同一套流程在思考模式下运行,Mellum2.1 在 LiveCodeBench v6 上得 82.0,AIME 2025 与 2026 合计得 83.3,SWE-bench Verified 得 47.0,BFCL v4 得 62.3,GPQA Diamond 得 64.6。6 月的 Mellum2 Thinking 在 SWE-bench Verified 上只有 2.0,Gemma 4 E4B 为 23.0。Qwen3.5-9B 在 SWE-bench Verified(50.0)、SWE-bench Pro(38.0 对 28.0)、Terminal-Bench 2.1(21.7 对 17.4)和 GPQA Diamond(77.8)上领先于 Mellum2.1,HarmBench 分数也更低、更好(6.6 对 8.5)。JetBrains 还称,在一块 H200 上高负载运行时,Mellum2.1 能服务的 token 数几乎是 Qwen3.5-9B 的两倍,多 token 预测头能让单个请求快约 1.6 倍。这些数字都是 JetBrains 自己的。
BF16 权重为 24.3 GB。JetBrains 自己发布了 GGUF 文件:Q8_0 为 12.9 GB,Q6_K 为 10.9 GB,推荐的 Q4_K_M 为 8.1 GB,MXFP4_MOE 为 7.0 GB,GGUF 仓库里还带有用于 llama.cpp 推测解码的多 token 预测头。另有一个单独的仓库为 vLLM 加上这个头,需要 vLLM 0.33 或更高版本和 Transformers 5.20 或更高版本。模型卡建议温度 0.6、top-p 0.95、top-k 20,并给出了使用 qwen3 推理解析器和 Hermes 工具调用解析器的 vLLM 命令。2.1 版本 JetBrains 只发布了 Thinking 检查点,所以直接回答的 Instruct 和 Base 检查点仍是 6 月的 Mellum2。在截至 2026 年 11 月 11 日的 30 天里,Hugging Face 统计到 GGUF 仓库约 44 万次下载,主权重约 1.2 万次。
适合做什么
- 在自己硬件上运行的编程智能体和快速子智能体,这正是 JetBrains 设计它的目的
- 笔记本和单块消费级 GPU,按我们的估算,8.1 GB 的 Q4_K_M 和 7.0 GB 的 MXFP4 文件放得进 16 GB 内存
- 小激活规模下的高难度数学和推理,JetBrains 报告 AIME 得分 83.3
- 微调和研究,因为 6 月的基础模型检查点也已发布
需要注意
- 所有基准数字都是 JetBrains 自己的,同一张表里 Qwen3.5-9B 在 SWE-bench Verified、SWE-bench Pro、Terminal-Bench 2.1 和 GPQA Diamond 上得分更高
- 它总是先推理再回答,想要直接回答请使用 6 月的 Mellum2 Instruct
- 推测解码需要 MTP 头,它在 vLLM 对应的单独仓库里,还要求较新的库版本
- 只处理文字,HarmBench 分数(8.5,越低越好)比 Qwen3.5-9B 差
性能数据来自开发方,未经独立验证。
需要多少内存?
以下为 Mellum2.1 Thinking GGUF MXFP4_MOE 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。
| 版本 | 参数量 | BF16 | FP8 / INT8 | 4-bit (Q4) | 可运行于 |
|---|---|---|---|---|---|
| Mellum2.1 Thinking BF16 | 12.2B 激活 2.5B | 28 GB | 14 GB | 8.38 GB | 笔记本或手机 |
| Mellum2.1 Thinking GGUF Q4_K_M INT4 | 12.2B 激活 2.5B | 28 GB | 14 GB | 8.91 GB | 笔记本或手机 |
| Mellum2.1 Thinking GGUF MXFP4_MOE MXFP4 | 12.2B 激活 2.5B | 28 GB | 14 GB | 7.7 GB | 笔记本或手机 |
| Mellum2 Instruct (June 2026) BF16 | 12.2B 激活 2.5B | 28 GB | 14 GB | 8.38 GB | 笔记本或手机 |
| Mellum2 Base (June 2026) BF16 | 12.2B 激活 2.5B | 28 GB | 14 GB | 8.38 GB | 笔记本或手机 |
估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。
许可证,用大白话说
最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。
延伸阅读
常见问题
- Mellum2.1 是什么?
- Mellum2.1 是 IntelliJ IDEA 和 PyCharm 的开发商 JetBrains 推出的 120 亿参数模型,设计用来在代码仓库里工作,并充当快速的子智能体。每个 token 只激活 25 亿参数,所以运行很快,4 位文件约 7 到 8 GB。它先推理再回答,许可证是 Apache 2.0。
- Mellum2.1 可以商用吗?
- 可以。Mellum2.1 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
- Mellum2.1 是开源的吗?
- Mellum2.1 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
- 我能在自己的电脑上运行 Mellum2.1 吗?
- 可以。最小版本 Mellum2.1 Thinking GGUF MXFP4_MOE 在 4 位精度下约需 7.7 GB 内存,现代笔记本或中端显卡即可胜任。
- Mellum2.1 是什么时候发布的?
- Mellum2.1 由 JetBrains 于 2026年10月8日 发布。
- Mellum2.1 的上下文窗口有多长?
- Mellum2.1 支持最长 128K token 的上下文窗口。
官方链接
来源
规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。
- Mellum2.1 Gets to Work: A Fast Open Model for Coding Agents (JetBrains Blog, 8 Oct 2026) blog.jetbrains.com
- Mellum2.1-12B-A2.5B-Thinking model card (Hugging Face) huggingface.co
- Mellum2.1-12B-A2.5B-Thinking-GGUF model card (Hugging Face) huggingface.co
- Mellum2.1-12B-A2.5B-Thinking-MTP model card (Hugging Face) huggingface.co
- Mellum2 Technical Report (arXiv 2605.31268) arxiv.org
- Mellum2-12B-A2.5B-Instruct model card (Hugging Face) huggingface.co
- JetBrains corporate overview 2026 (headquarters in Amsterdam) resources.jetbrains.com
发布时间等信息最近核实于 2026年11月11日。
相关模型
| 模型 | 发布时间 | 参数量 | 上下文 | 许可证 | 最小版本所需内存 |
|---|---|---|---|---|---|
| Qwen3.5 Alibaba Qwen | 873M – 403B 激活 17B | 256K | Apache 2.0 (宽松) | 0.602 GB 笔记本或手机 | |
| Gemma 4 Google DeepMind | 5.1B – 30.7B | 256K | Apache 2.0 (宽松) | 3.52 GB 笔记本或手机 | |
| Flint Recursive | 39.8B 激活 2.5B | 256K | Apache 2.0 (宽松) | 48 GB 工作站 | |
| LFM2.5-24B-A2B Liquid AI | 24B 激活 2.45B | 128K | LFM Open 1.0 (附条件) | 17 GB 游戏显卡 |