Inkling
Thinking Machines 的首个开放模型:975B 多模态混合专家,Apache 2.0 许可证,定位为可定制的基座。
一句话概括. Inkling 是一个能理解文字、图片和语音的 AI 模型,由 Thinking Machines Lab 以 Apache 2.0 许可证发布完整权重。公司表示并不想在所有榜单上拔得头筹,而是希望它成为一个好用的起点,供你按自己的需求重新训练。另有较小的 Inkling-Small 可选。
概述
Inkling 由 Thinking Machines Lab 于 2026 年 7 月 15 日发布。该实验室由前 OpenAI CTO Mira Murati 创办,Inkling 是它首个正式的语言模型,也是计划中的模型家族的第一个。较小的 Inkling-Small 在 2026 年 7 月 27 日随后发布。
Inkling 是仅解码器的混合专家(MoE)Transformer,总参数 9750 亿,每个 token 激活 410 亿。共 66 层,每个 token 从 256 个专家中路由到 6 个,另有 2 个共享专家处理每个 token,注意力在局部层和全局层之间交替。它在 45 万亿个文字、图像、音频和视频 token 上预训练。输入可以是文字、图像和音频(WAV,最长约 20 分钟),输出为文字。开放权重支持最长 100 万 token 的上下文,而实验室自家托管服务提供 64K 和 256K 两档。
Inkling-Small 总参数 2760 亿,激活 120 亿,架构相同。两者都提供 BF16 检查点和面向 NVIDIA Blackwell GPU 的 NVFP4 版本,并带有多 token 预测层以加快生成。Thinking Machines 直言 Inkling 并不是综合能力最强的模型(无论开源还是闭源),卖点是多模态、高效思考和易于微调,包括在该实验室的 Tinker 平台上微调。许可证为 Apache 2.0。
适合做什么
- 作为基座,用自己的数据微调,包括音频任务
- 需要一个模型同时处理文字、图像和语音输入的语音与图像助手
- 想要美国研发的前沿规模模型、且需要 Apache 2.0 条款的公司
- 想用同样设计、但 GPU 更少的团队可选 Inkling-Small
需要注意
- 完整模型 BF16 约 1.9 TB,NVFP4 约 0.6 TB
- 开发方自己表示它不是综合表现最强的模型,而是定制基座
- 只输出文字,要语音回复需另配语音合成模型
- 请看清检查点:对多数团队,Inkling-Small 是更实际的尺寸
性能数据来自开发方,未经独立验证。
需要多少内存?
以下为 Inkling-Small NVFP4 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。
| 版本 | 参数量 | BF16 | FP8 / INT8 | 4-bit (Q4) | 可运行于 |
|---|---|---|---|---|---|
| Inkling-Small BF16 | 276B 激活 12B | 635 GB | 317 GB | 190 GB | 大内存台式机 |
| Inkling-Small NVFP4 NVFP4 | 276B 激活 12B | 635 GB | 317 GB | 188 GB | 大内存台式机 |
| Inkling BF16 | 975B 激活 41B | 2.24 TB | 1.12 TB | 673 GB | GPU 服务器 |
| Inkling NVFP4 NVFP4 | 975B 激活 41B | 2.24 TB | 1.12 TB | 653 GB | GPU 服务器 |
估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。
许可证,用大白话说
最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。
延伸阅读
常见问题
- Inkling 是什么?
- Inkling 是一个能理解文字、图片和语音的 AI 模型,由 Thinking Machines Lab 以 Apache 2.0 许可证发布完整权重。公司表示并不想在所有榜单上拔得头筹,而是希望它成为一个好用的起点,供你按自己的需求重新训练。另有较小的 Inkling-Small 可选。
- Inkling 可以商用吗?
- 可以。Inkling 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
- Inkling 是开源的吗?
- Inkling 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
- 我能在自己的电脑上运行 Inkling 吗?
- 只有大内存机器才行。最小版本 Inkling-Small NVFP4 在 4 位精度下约需 188 GB。配备 128 至 512 GB 统一内存的台式机可以装下,但速度一般。
- Inkling 是什么时候发布的?
- Inkling 由 Thinking Machines Lab 于 2026年7月15日 发布。
- Inkling 的上下文窗口有多长?
- Inkling 支持最长 1M token 的上下文窗口。
官方链接
来源
规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。
- Inkling: Our Open-Weights Model (Thinking Machines Lab, 15 Jul 2026) thinkingmachines.ai
- Inkling model card (Thinking Machines Lab) thinkingmachines.ai
- Welcome Inkling by Thinking Machines (Hugging Face blog) huggingface.co
- Inkling on Artificial Analysis (15 Jul 2026) artificialanalysis.ai
发布时间等信息最近核实于 2026年11月8日。
相关模型
| 模型 | 发布时间 | 参数量 | 上下文 | 许可证 | 最小版本所需内存 |
|---|---|---|---|---|---|
| Muse Spark Open Meta | 816B 激活 42B | 1M | Muse Model License (附条件) | 563 GB GPU 服务器 | |
| Mistral Large 4 Mistral AI | 1.05T 激活 52B | 1M | Mistral Open-Weight (附条件) | 671 GB GPU 服务器 | |
| Reflection Beam Reflection AI | 501B 激活 23.4B | 1M | Apache 2.0 (宽松) | 323 GB 大内存台式机 | |
| Arete-27B Nous Research | 27.4B | 256K | Apache 2.0 (宽松) | 19 GB 游戏显卡 |