Sarvam 30B and 105B

印度从零训练的开放推理模型:激活 10.3B 的 105B 混合专家模型和激活 2.4B 的 30B 模型,128K 上下文,Apache 2.0。

一句话概括. Sarvam 30B 和 105B 是印度公司 Sarvam AI 的两个大语言模型,在印度从零训练,重点关注印度语言。它们擅长推理、编程和工具使用,每处理一个词只有一小部分参数在工作,因此速度很快。权重在 Apache 2.0 下免费使用,测试分数来自 Sarvam 自己。

概述

Sarvam 30B 和 105B 是印度公司 Sarvam AI 的推理模型,于 2026 年 3 月初以开放权重发布。Sarvam 称这两个模型都是从零训练,预训练、监督微调和强化学习所用的数据都由公司内部整理,全程在印度使用 IndiaAI 计划提供的算力完成。两者都是 128 个专家的混合专家 Transformer,上下文最长 128K token。105B 约有 103 亿激活参数,采用多头潜在注意力,30B 约有 24 亿激活参数,采用分组查询注意力。Sarvam 称 30B 预训练了 16 万亿 token,105B 预训练了 12 万亿,多语言数据中有很大一部分用在最常用的十种印度语言上。

在 Sarvam 自己的表格里,105B 在 Math500 上得 98.6,LiveCodeBench v6 上得 71.7,MMLU Pro 上得 81.7,GPQA Diamond 上得 78.7,τ² Bench 上得 68.3,对比对象是 GLM-4.5-Air、GPT-OSS-120B 和 Qwen3-Next-80B-A3B-Thinking。它在 GPQA Diamond、AIME 25 和 HMMT 上落后于 GPT-OSS-120B,SWE-bench Verified 上的 45.0 低于 GLM-4.5-Air 的 57.6。30B 在 Math500 上得 97.0,LiveCodeBench v6 上得 70.0,MMLU Pro 上得 80.0,但在模型卡里衡量印度语言知识的 MILU 基准上得 76.8,Qwen3-30B-Thinking-2507 是 82.6。Sarvam 还称两个模型在它自己的 22 种印度语言测试中领先。对比的模型是 2026 年初就有的,不是本站收录的更新的开放模型,这些数字我们都没有复现。

权重采用 Apache 2.0,可在 Hugging Face 和 AI Kosh 获取。主仓库存放的是 float32 权重,105B 为 424 GB,30B 为 129 GB,所以多数人会用 113 GB 和 39 GB 的 FP8 版本,或 64 GB 和 20 GB 的 Q4_K_M GGUF 文件。Sarvam 在它的 Samvaad 对话智能体平台上运行 30B,在 Indus 助手里运行 105B。截至 2026 年 11 月 11 日的 30 天内,Hugging Face 统计 105B 约有 5300 次下载,30B 约 3900 次。

适合做什么

  • 面向印度语言的助手和语音智能体,其中 30B 为低延迟对话和工具调用而设计
  • 需要一个只激活 10.3B 参数的 105B 模型来做推理、编程和搜索智能体
  • 出于自主可控考虑、想要一个在印度从零训练且采用 Apache 2.0 的模型的组织

需要注意

  • 所有基准都是 Sarvam 自己的,而且对比的是 2026 年初的模型,不是最新的开放模型
  • 主仓库存放 424 GB 和 129 GB 的 float32 权重,除非需要完整精度,请用 FP8 或 GGUF 版本
  • 在 Sarvam 的表格里,105B 在几项数学和推理测试上落后于 GPT-OSS-120B,SWE-bench Verified 得分也低于 GLM-4.5-Air
  • 在模型卡的 MILU 基准上,30B 的得分低于 Qwen3-30B-Thinking-2507,所以请在你自己的任务上检查印度语言质量

性能数据来自开发方,未经独立验证。

需要多少内存?

以下为 Sarvam-30B Q4_K_M (GGUF) 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。

版本 参数量 BF16 FP8 / INT8 4-bit (Q4) 可运行于
Sarvam-30B FP32 32.1B 激活 2.4B 74 GB 37 GB 22 GB 游戏显卡
Sarvam-30B FP8 FP8 32.1B 激活 2.4B 74 GB 37 GB 22 GB 游戏显卡
Sarvam-30B Q4_K_M (GGUF) INT4 32.1B 激活 2.4B 74 GB 37 GB 22 GB 游戏显卡
Sarvam-105B FP32 106B 激活 10.3B 244 GB 122 GB 73 GB 工作站
Sarvam-105B FP8 FP8 106B 激活 10.3B 244 GB 122 GB 73 GB 工作站
Sarvam-105B Q4_K_M (GGUF) INT4 106B 激活 10.3B 244 GB 122 GB 71 GB 工作站

估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。

显存计算器

许可证,用大白话说

最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。

进一步了解 Apache 2.0

常见问题

Sarvam 30B and 105B 是什么?
Sarvam 30B 和 105B 是印度公司 Sarvam AI 的两个大语言模型,在印度从零训练,重点关注印度语言。它们擅长推理、编程和工具使用,每处理一个词只有一小部分参数在工作,因此速度很快。权重在 Apache 2.0 下免费使用,测试分数来自 Sarvam 自己。
Sarvam 30B and 105B 可以商用吗?
可以。Sarvam 30B and 105B 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
Sarvam 30B and 105B 是开源的吗?
Sarvam 30B and 105B 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
我能在自己的电脑上运行 Sarvam 30B and 105B 吗?
可以,但需要一块好显卡。最小版本 Sarvam-30B Q4_K_M (GGUF) 在 4 位精度下约需 22 GB 内存,适合 24 至 32 GB 的游戏显卡,或 32 GB 及以上内存的 Mac。
Sarvam 30B and 105B 是什么时候发布的?
Sarvam 30B and 105B 由 Sarvam AI 于 2026年3月6日 发布。
Sarvam 30B and 105B 的上下文窗口有多长?
Sarvam 30B and 105B 支持最长 128K token 的上下文窗口。

官方链接

来源

规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。

发布时间等信息最近核实于 2026年11月11日。

相关模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
Sarvam Prism Sarvam AI 105B 激活 10.3B 128K Apache 2.0 (宽松) 120 GB 大内存台式机
GLM-5.3-Flash Z.ai (Zhipu AI) 320B 激活 18B 1M MIT (宽松) 221 GB 大内存台式机
gpt-oss OpenAI 21B – 117B 激活 5.1B 128K Apache 2.0 (宽松) 15 GB 笔记本或手机
Qwen3.6 Alibaba Qwen 27.8B – 36B 激活 3B 256K Apache 2.0 (宽松) 19 GB 游戏显卡