Mellum2.1

JetBrains 的 12B 混合专家编程智能体模型,激活 2.5B 参数,上下文 128K,采用 Apache 2.0 许可证。

一句话概括. Mellum2.1 是 IntelliJ IDEA 和 PyCharm 的开发商 JetBrains 推出的 120 亿参数模型,设计用来在代码仓库里工作,并充当快速的子智能体。每个 token 只激活 25 亿参数,所以运行很快,4 位文件约 7 到 8 GB。它先推理再回答,许可证是 Apache 2.0。

概述

Mellum2.1 是 Mellum2 在 2026 年 10 月的更新版。Mellum2 是 JetBrains 在 2026 年 6 月开源的 12B 混合专家模型,是其 4B 稠密补全模型 Mellum 的后继者。架构没有变化:12.15B 参数、28 层,64 个专家每个 token 激活 8 个(激活参数 2.5B),分组查询注意力有 4 个键值头,每四层中有三层使用滑动窗口注意力,窗口 1024 个 token,上下文 131,072 个 token。Mellum2 技术报告称基础模型训练了约 10.6 万亿个 token。几乎所有新增工作都在后训练上:JetBrains 说强化学习成了主要阶段,加入了数学、竞赛编程、科学、工具调用和软件工程的新任务,以及数以百万计的沙盒运行,让模型在真实仓库里使用终端和文件编辑工具工作,测试通过才获得奖励。Mellum2.1 是思考型模型,会先写出推理过程再回答。

在 JetBrains 的表格里,所有模型都用同一套流程在思考模式下运行,Mellum2.1 在 LiveCodeBench v6 上得 82.0,AIME 2025 与 2026 合计得 83.3,SWE-bench Verified 得 47.0,BFCL v4 得 62.3,GPQA Diamond 得 64.6。6 月的 Mellum2 Thinking 在 SWE-bench Verified 上只有 2.0,Gemma 4 E4B 为 23.0。Qwen3.5-9B 在 SWE-bench Verified(50.0)、SWE-bench Pro(38.0 对 28.0)、Terminal-Bench 2.1(21.7 对 17.4)和 GPQA Diamond(77.8)上领先于 Mellum2.1,HarmBench 分数也更低、更好(6.6 对 8.5)。JetBrains 还称,在一块 H200 上高负载运行时,Mellum2.1 能服务的 token 数几乎是 Qwen3.5-9B 的两倍,多 token 预测头能让单个请求快约 1.6 倍。这些数字都是 JetBrains 自己的。

BF16 权重为 24.3 GB。JetBrains 自己发布了 GGUF 文件:Q8_0 为 12.9 GB,Q6_K 为 10.9 GB,推荐的 Q4_K_M 为 8.1 GB,MXFP4_MOE 为 7.0 GB,GGUF 仓库里还带有用于 llama.cpp 推测解码的多 token 预测头。另有一个单独的仓库为 vLLM 加上这个头,需要 vLLM 0.33 或更高版本和 Transformers 5.20 或更高版本。模型卡建议温度 0.6、top-p 0.95、top-k 20,并给出了使用 qwen3 推理解析器和 Hermes 工具调用解析器的 vLLM 命令。2.1 版本 JetBrains 只发布了 Thinking 检查点,所以直接回答的 Instruct 和 Base 检查点仍是 6 月的 Mellum2。在截至 2026 年 11 月 11 日的 30 天里,Hugging Face 统计到 GGUF 仓库约 44 万次下载,主权重约 1.2 万次。

适合做什么

  • 在自己硬件上运行的编程智能体和快速子智能体,这正是 JetBrains 设计它的目的
  • 笔记本和单块消费级 GPU,按我们的估算,8.1 GB 的 Q4_K_M 和 7.0 GB 的 MXFP4 文件放得进 16 GB 内存
  • 小激活规模下的高难度数学和推理,JetBrains 报告 AIME 得分 83.3
  • 微调和研究,因为 6 月的基础模型检查点也已发布

需要注意

  • 所有基准数字都是 JetBrains 自己的,同一张表里 Qwen3.5-9B 在 SWE-bench Verified、SWE-bench Pro、Terminal-Bench 2.1 和 GPQA Diamond 上得分更高
  • 它总是先推理再回答,想要直接回答请使用 6 月的 Mellum2 Instruct
  • 推测解码需要 MTP 头,它在 vLLM 对应的单独仓库里,还要求较新的库版本
  • 只处理文字,HarmBench 分数(8.5,越低越好)比 Qwen3.5-9B 差

性能数据来自开发方,未经独立验证。

需要多少内存?

以下为 Mellum2.1 Thinking GGUF MXFP4_MOE 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。

版本 参数量 BF16 FP8 / INT8 4-bit (Q4) 可运行于
Mellum2.1 Thinking BF16 12.2B 激活 2.5B 28 GB 14 GB 8.38 GB 笔记本或手机
Mellum2.1 Thinking GGUF Q4_K_M INT4 12.2B 激活 2.5B 28 GB 14 GB 8.91 GB 笔记本或手机
Mellum2.1 Thinking GGUF MXFP4_MOE MXFP4 12.2B 激活 2.5B 28 GB 14 GB 7.7 GB 笔记本或手机
Mellum2 Instruct (June 2026) BF16 12.2B 激活 2.5B 28 GB 14 GB 8.38 GB 笔记本或手机
Mellum2 Base (June 2026) BF16 12.2B 激活 2.5B 28 GB 14 GB 8.38 GB 笔记本或手机

估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。

显存计算器

许可证,用大白话说

最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。

进一步了解 Apache 2.0

延伸阅读

常见问题

Mellum2.1 是什么?
Mellum2.1 是 IntelliJ IDEA 和 PyCharm 的开发商 JetBrains 推出的 120 亿参数模型,设计用来在代码仓库里工作,并充当快速的子智能体。每个 token 只激活 25 亿参数,所以运行很快,4 位文件约 7 到 8 GB。它先推理再回答,许可证是 Apache 2.0。
Mellum2.1 可以商用吗?
可以。Mellum2.1 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
Mellum2.1 是开源的吗?
Mellum2.1 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
我能在自己的电脑上运行 Mellum2.1 吗?
可以。最小版本 Mellum2.1 Thinking GGUF MXFP4_MOE 在 4 位精度下约需 7.7 GB 内存,现代笔记本或中端显卡即可胜任。
Mellum2.1 是什么时候发布的?
Mellum2.1 由 JetBrains 于 2026年10月8日 发布。
Mellum2.1 的上下文窗口有多长?
Mellum2.1 支持最长 128K token 的上下文窗口。

官方链接

来源

规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。

发布时间等信息最近核实于 2026年11月11日。

相关模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
Qwen3.5 Alibaba Qwen 873M – 403B 激活 17B 256K Apache 2.0 (宽松) 0.602 GB 笔记本或手机
Gemma 4 Google DeepMind 5.1B – 30.7B 256K Apache 2.0 (宽松) 3.52 GB 笔记本或手机
Flint Recursive 39.8B 激活 2.5B 256K Apache 2.0 (宽松) 48 GB 工作站
LFM2.5-24B-A2B Liquid AI 24B 激活 2.45B 128K LFM Open 1.0 (附条件) 17 GB 游戏显卡