Inkling

Thinking Machines 的首个开放模型:975B 多模态混合专家,Apache 2.0 许可证,定位为可定制的基座。

一句话概括. Inkling 是一个能理解文字、图片和语音的 AI 模型,由 Thinking Machines Lab 以 Apache 2.0 许可证发布完整权重。公司表示并不想在所有榜单上拔得头筹,而是希望它成为一个好用的起点,供你按自己的需求重新训练。另有较小的 Inkling-Small 可选。

概述

Inkling 由 Thinking Machines Lab 于 2026 年 7 月 15 日发布。该实验室由前 OpenAI CTO Mira Murati 创办,Inkling 是它首个正式的语言模型,也是计划中的模型家族的第一个。较小的 Inkling-Small 在 2026 年 7 月 27 日随后发布。

Inkling 是仅解码器的混合专家(MoE)Transformer,总参数 9750 亿,每个 token 激活 410 亿。共 66 层,每个 token 从 256 个专家中路由到 6 个,另有 2 个共享专家处理每个 token,注意力在局部层和全局层之间交替。它在 45 万亿个文字、图像、音频和视频 token 上预训练。输入可以是文字、图像和音频(WAV,最长约 20 分钟),输出为文字。开放权重支持最长 100 万 token 的上下文,而实验室自家托管服务提供 64K 和 256K 两档。

Inkling-Small 总参数 2760 亿,激活 120 亿,架构相同。两者都提供 BF16 检查点和面向 NVIDIA Blackwell GPU 的 NVFP4 版本,并带有多 token 预测层以加快生成。Thinking Machines 直言 Inkling 并不是综合能力最强的模型(无论开源还是闭源),卖点是多模态、高效思考和易于微调,包括在该实验室的 Tinker 平台上微调。许可证为 Apache 2.0。

适合做什么

  • 作为基座,用自己的数据微调,包括音频任务
  • 需要一个模型同时处理文字、图像和语音输入的语音与图像助手
  • 想要美国研发的前沿规模模型、且需要 Apache 2.0 条款的公司
  • 想用同样设计、但 GPU 更少的团队可选 Inkling-Small

需要注意

  • 完整模型 BF16 约 1.9 TB,NVFP4 约 0.6 TB
  • 开发方自己表示它不是综合表现最强的模型,而是定制基座
  • 只输出文字,要语音回复需另配语音合成模型
  • 请看清检查点:对多数团队,Inkling-Small 是更实际的尺寸

性能数据来自开发方,未经独立验证。

需要多少内存?

以下为 Inkling-Small NVFP4 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。

版本 参数量 BF16 FP8 / INT8 4-bit (Q4) 可运行于
Inkling-Small BF16 276B 激活 12B 635 GB 317 GB 190 GB 大内存台式机
Inkling-Small NVFP4 NVFP4 276B 激活 12B 635 GB 317 GB 188 GB 大内存台式机
Inkling BF16 975B 激活 41B 2.24 TB 1.12 TB 673 GB GPU 服务器
Inkling NVFP4 NVFP4 975B 激活 41B 2.24 TB 1.12 TB 653 GB GPU 服务器

估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。

显存计算器

许可证,用大白话说

最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。

进一步了解 Apache 2.0

延伸阅读

常见问题

Inkling 是什么?
Inkling 是一个能理解文字、图片和语音的 AI 模型,由 Thinking Machines Lab 以 Apache 2.0 许可证发布完整权重。公司表示并不想在所有榜单上拔得头筹,而是希望它成为一个好用的起点,供你按自己的需求重新训练。另有较小的 Inkling-Small 可选。
Inkling 可以商用吗?
可以。Inkling 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
Inkling 是开源的吗?
Inkling 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
我能在自己的电脑上运行 Inkling 吗?
只有大内存机器才行。最小版本 Inkling-Small NVFP4 在 4 位精度下约需 188 GB。配备 128 至 512 GB 统一内存的台式机可以装下,但速度一般。
Inkling 是什么时候发布的?
Inkling 由 Thinking Machines Lab 于 2026年7月15日 发布。
Inkling 的上下文窗口有多长?
Inkling 支持最长 1M token 的上下文窗口。

官方链接

来源

规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。

发布时间等信息最近核实于 2026年11月8日。

相关模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
Muse Spark Open Meta 816B 激活 42B 1M Muse Model License (附条件) 563 GB GPU 服务器
Mistral Large 4 Mistral AI 1.05T 激活 52B 1M Mistral Open-Weight (附条件) 671 GB GPU 服务器
Reflection Beam Reflection AI 501B 激活 23.4B 1M Apache 2.0 (宽松) 323 GB 大内存台式机
Arete-27B Nous Research 27.4B 256K Apache 2.0 (宽松) 19 GB 游戏显卡