Sarvam 30B and 105B
印度从零训练的开放推理模型:激活 10.3B 的 105B 混合专家模型和激活 2.4B 的 30B 模型,128K 上下文,Apache 2.0。
一句话概括. Sarvam 30B 和 105B 是印度公司 Sarvam AI 的两个大语言模型,在印度从零训练,重点关注印度语言。它们擅长推理、编程和工具使用,每处理一个词只有一小部分参数在工作,因此速度很快。权重在 Apache 2.0 下免费使用,测试分数来自 Sarvam 自己。
概述
Sarvam 30B 和 105B 是印度公司 Sarvam AI 的推理模型,于 2026 年 3 月初以开放权重发布。Sarvam 称这两个模型都是从零训练,预训练、监督微调和强化学习所用的数据都由公司内部整理,全程在印度使用 IndiaAI 计划提供的算力完成。两者都是 128 个专家的混合专家 Transformer,上下文最长 128K token。105B 约有 103 亿激活参数,采用多头潜在注意力,30B 约有 24 亿激活参数,采用分组查询注意力。Sarvam 称 30B 预训练了 16 万亿 token,105B 预训练了 12 万亿,多语言数据中有很大一部分用在最常用的十种印度语言上。
在 Sarvam 自己的表格里,105B 在 Math500 上得 98.6,LiveCodeBench v6 上得 71.7,MMLU Pro 上得 81.7,GPQA Diamond 上得 78.7,τ² Bench 上得 68.3,对比对象是 GLM-4.5-Air、GPT-OSS-120B 和 Qwen3-Next-80B-A3B-Thinking。它在 GPQA Diamond、AIME 25 和 HMMT 上落后于 GPT-OSS-120B,SWE-bench Verified 上的 45.0 低于 GLM-4.5-Air 的 57.6。30B 在 Math500 上得 97.0,LiveCodeBench v6 上得 70.0,MMLU Pro 上得 80.0,但在模型卡里衡量印度语言知识的 MILU 基准上得 76.8,Qwen3-30B-Thinking-2507 是 82.6。Sarvam 还称两个模型在它自己的 22 种印度语言测试中领先。对比的模型是 2026 年初就有的,不是本站收录的更新的开放模型,这些数字我们都没有复现。
权重采用 Apache 2.0,可在 Hugging Face 和 AI Kosh 获取。主仓库存放的是 float32 权重,105B 为 424 GB,30B 为 129 GB,所以多数人会用 113 GB 和 39 GB 的 FP8 版本,或 64 GB 和 20 GB 的 Q4_K_M GGUF 文件。Sarvam 在它的 Samvaad 对话智能体平台上运行 30B,在 Indus 助手里运行 105B。截至 2026 年 11 月 11 日的 30 天内,Hugging Face 统计 105B 约有 5300 次下载,30B 约 3900 次。
适合做什么
- 面向印度语言的助手和语音智能体,其中 30B 为低延迟对话和工具调用而设计
- 需要一个只激活 10.3B 参数的 105B 模型来做推理、编程和搜索智能体
- 出于自主可控考虑、想要一个在印度从零训练且采用 Apache 2.0 的模型的组织
需要注意
- 所有基准都是 Sarvam 自己的,而且对比的是 2026 年初的模型,不是最新的开放模型
- 主仓库存放 424 GB 和 129 GB 的 float32 权重,除非需要完整精度,请用 FP8 或 GGUF 版本
- 在 Sarvam 的表格里,105B 在几项数学和推理测试上落后于 GPT-OSS-120B,SWE-bench Verified 得分也低于 GLM-4.5-Air
- 在模型卡的 MILU 基准上,30B 的得分低于 Qwen3-30B-Thinking-2507,所以请在你自己的任务上检查印度语言质量
性能数据来自开发方,未经独立验证。
需要多少内存?
以下为 Sarvam-30B Q4_K_M (GGUF) 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。
| 版本 | 参数量 | BF16 | FP8 / INT8 | 4-bit (Q4) | 可运行于 |
|---|---|---|---|---|---|
| Sarvam-30B FP32 | 32.1B 激活 2.4B | 74 GB | 37 GB | 22 GB | 游戏显卡 |
| Sarvam-30B FP8 FP8 | 32.1B 激活 2.4B | 74 GB | 37 GB | 22 GB | 游戏显卡 |
| Sarvam-30B Q4_K_M (GGUF) INT4 | 32.1B 激活 2.4B | 74 GB | 37 GB | 22 GB | 游戏显卡 |
| Sarvam-105B FP32 | 106B 激活 10.3B | 244 GB | 122 GB | 73 GB | 工作站 |
| Sarvam-105B FP8 FP8 | 106B 激活 10.3B | 244 GB | 122 GB | 73 GB | 工作站 |
| Sarvam-105B Q4_K_M (GGUF) INT4 | 106B 激活 10.3B | 244 GB | 122 GB | 71 GB | 工作站 |
估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。
许可证,用大白话说
最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。
常见问题
- Sarvam 30B and 105B 是什么?
- Sarvam 30B 和 105B 是印度公司 Sarvam AI 的两个大语言模型,在印度从零训练,重点关注印度语言。它们擅长推理、编程和工具使用,每处理一个词只有一小部分参数在工作,因此速度很快。权重在 Apache 2.0 下免费使用,测试分数来自 Sarvam 自己。
- Sarvam 30B and 105B 可以商用吗?
- 可以。Sarvam 30B and 105B 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
- Sarvam 30B and 105B 是开源的吗?
- Sarvam 30B and 105B 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
- 我能在自己的电脑上运行 Sarvam 30B and 105B 吗?
- 可以,但需要一块好显卡。最小版本 Sarvam-30B Q4_K_M (GGUF) 在 4 位精度下约需 22 GB 内存,适合 24 至 32 GB 的游戏显卡,或 32 GB 及以上内存的 Mac。
- Sarvam 30B and 105B 是什么时候发布的?
- Sarvam 30B and 105B 由 Sarvam AI 于 2026年3月6日 发布。
- Sarvam 30B and 105B 的上下文窗口有多长?
- Sarvam 30B and 105B 支持最长 128K token 的上下文窗口。
官方链接
来源
规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。
- Sarvam AI: Open-sourcing Sarvam 30B and 105B (6 Mar 2026) sarvam.ai
- Sarvam-105B model card (Hugging Face) huggingface.co
- Sarvam-30B model card (Hugging Face) huggingface.co
发布时间等信息最近核实于 2026年11月11日。
相关模型
| 模型 | 发布时间 | 参数量 | 上下文 | 许可证 | 最小版本所需内存 |
|---|---|---|---|---|---|
| Sarvam Prism Sarvam AI | 105B 激活 10.3B | 128K | Apache 2.0 (宽松) | 120 GB 大内存台式机 | |
| GLM-5.3-Flash Z.ai (Zhipu AI) | 320B 激活 18B | 1M | MIT (宽松) | 221 GB 大内存台式机 | |
| gpt-oss OpenAI | 21B – 117B 激活 5.1B | 128K | Apache 2.0 (宽松) | 15 GB 笔记本或手机 | |
| Qwen3.6 Alibaba Qwen | 27.8B – 36B 激活 3B | 256K | Apache 2.0 (宽松) | 19 GB 游戏显卡 |