Kimi K3
首个 3 万亿参数级的开放权重模型:2.8T 混合专家、100 万 token 上下文,支持文字、图像和视频输入。
一句话概括. Kimi K3 是月之暗面推出的巨型 AI 模型,任何人都可以下载,参数约 2.8 万亿。它能理解文字、图像和视频,适合长时间的编程、研究和办公任务。现在已有更新的 Kimi K3.1 Pro,但 K3 仍是这条产品线的基础。
概述
Kimi K3 是月之暗面的旗舰模型,发布时是第一个达到 3 万亿参数级的开放权重模型。月之暗面于 2026 年 7 月中旬先通过 API 推出它,并在 7 月 27 日发布了权重和技术报告,同时开源了训练基础设施工具 MoonEP、FlashKDA 和 AgentEnv。
它是混合专家(MoE)模型,总参数约 2.8 万亿,每个 token 实际调用约 1040 亿。模型共 93 层,其中 69 层使用 Kimi Delta Attention(一种线性注意力设计),24 层使用门控多头潜在注意力。路由器为每个 token 从 896 个专家中选 16 个,另有 2 个共享专家处理每个 token。一个 4.01 亿参数的视觉编码器让它能读图,月之暗面的模型卡还提到了视频理解。上下文窗口为 1,048,576 个 token。权重以训练时使用的 4 位格式 MXFP4 发布,下载量为 1.56 TB。
月之暗面称,新的注意力设计和 Attention Residuals 技术使规模化效率约为 Kimi K2 的 2.5 倍。模型卡上的基准表由月之暗面自己公布,并与闭源模型在不同测试框架下对比,请当作厂商宣称。Kimi K3 License 是类 MIT 许可证,带两条规模条件:营收超过 2000 万美元的托管业务需要另行签约,超大规模产品必须标注模型名称。
适合做什么
- 在自己的多卡基础设施上运行前沿级开放模型
- 长时间编程、研究和办公类智能体任务
- 同时读取文档、图表和视频并调用工具
- 研究超大规模线性注意力混合专家架构
需要注意
- 1.56 TB 的权重需要数据中心级硬件,工作站放不下
- 许可证要求大型模型托管业务另行签约
- 基准分数是自报的,使用厂商自选的测试框架
- Kimi K3.1 Pro 更新,新项目更适合从它开始
性能数据来自开发方,未经独立验证。
需要多少内存?
以下为 K3 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。
| 版本 | 参数量 | BF16 | FP8 / INT8 | 4-bit (Q4) | 可运行于 |
|---|---|---|---|---|---|
| K3 MXFP4 | 2.8T 激活 104B | 6.44 TB | 3.22 TB | 1.72 TB | 多机集群 |
估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。
许可证,用大白话说
类 MIT 的许可证,附带两条与规模相关的条件。多数公司无需申请即可商用,但大型托管服务商需要另行签约,超大规模产品必须署名。Kimi K3.1 Pro 采用相同条款,只是名称不同。
- 超过一定规模销售托管服务需另行签约
- 需要署名或标明模型名称
延伸阅读
- 腾讯 Hy4 preview:7700 亿参数、100 万上下文、Apache 2.0
- Hydrogen-1.0:基于 GLM-5.3 的 753B 开源科学模型
- 美团 LongCat-2.5:1.6T 参数、视觉能力和原版 MIT 许可证
- 超大开源模型开始直接以 4 位发布:对内存规划意味着什么
- Moonshot 发布 Kimi K3.1 Pro:2.8 万亿参数的开放权重模型
常见问题
- Kimi K3 是什么?
- Kimi K3 是月之暗面推出的巨型 AI 模型,任何人都可以下载,参数约 2.8 万亿。它能理解文字、图像和视频,适合长时间的编程、研究和办公任务。现在已有更新的 Kimi K3.1 Pro,但 K3 仍是这条产品线的基础。
- Kimi K3 可以商用吗?
- 可以,但有条件。Kimi K3 采用 Kimi K3 License 发布,允许商用,但附带额外规则:超过一定规模销售托管服务需另行签约; 需要署名或标明模型名称。产品上线前请阅读许可证原文。
- Kimi K3 是开源的吗?
- Kimi K3 是开放权重模型,但不是严格意义上的开源。你可以下载模型文件,但 Kimi K3 License 附带了开源促进会的定义所不允许的条件。
- 我能在自己的电脑上运行 Kimi K3 吗?
- 基本不现实。最小版本 K3 在 4 位精度下约需 1.72 TB,超出单台 GPU 服务器的容量,面向集群或托管服务。
- Kimi K3 是什么时候发布的?
- Kimi K3 由 Moonshot AI 于 2026年7月27日 发布。
- Kimi K3 的上下文窗口有多长?
- Kimi K3 支持最长 1M token 的上下文窗口。
官方链接
来源
规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。
- Kimi K3 Open Day: weights, technical report and key infrastructure released (Kimi, 27 Jul 2026) kimi.com
- Kimi-K3 model card (Hugging Face) huggingface.co
- Deploying Kimi K3 on AWS (AWS Machine Learning Blog) aws.amazon.com
- Kimi K3 License huggingface.co
发布时间等信息最近核实于 2026年11月8日。
相关模型
| 模型 | 发布时间 | 参数量 | 上下文 | 许可证 | 最小版本所需内存 |
|---|---|---|---|---|---|
| Kimi K3.1 Pro Moonshot AI | 2.8T 激活 104B | 1M | Kimi K3 License (附条件) | 1.72 TB 多机集群 | |
| Qwen3.8-Max Alibaba Qwen | 2.45T 激活 95B | 1M | Qwen3.8-Max License (附条件) | 1.69 TB 多机集群 | |
| DeepSeek V4.1 Flash DeepSeek | 552B 激活 16B | 1M | MIT (宽松) | 561 GB GPU 服务器 | |
| AREX-2 BAAI | 27.4B | 256K | Apache 2.0 (宽松) | 19 GB 游戏显卡 |