GigaChat 3.1 Lightning
Sber 的 10B 混合专家模型,激活 1.8B 参数,俄语表现强,提供 FP8、BF16 和 GGUF 文件,采用 MIT 许可证。
一句话概括. GigaChat 3.1 Lightning 是 Sber 发布的小型免费 AI 模型,回答很快,因为它每次只用 100 亿参数中的 18 亿。它擅长俄语和英语,能调用工具,MIT 许可证允许商用。8 位文件约 12 GB,4 位文件为 6.5 GB。
概述
GigaChat 3.1 Lightning 是 Sber 的 GigaChat 3.1 家族里的小型指令模型。Sber 的 Habr 博客在 2026 年 3 月 24 日与 700B 的 Ultra 一同宣布了它。它是 10B 的混合专家模型,激活 1.8B 参数(Hugging Face 统计为 11.48B),使用多头潜在注意力和多词元预测。配置显示它有 26 层,64 个路由专家,每个词元使用 4 个再加 1 个共享专家,通过 YaRN 缩放得到 262144 个位置,但模型卡没有写明上下文长度。训练语料涵盖 10 种语言,包括书籍、学术材料、代码和数学,模型卡称在更广的 GigaChat 3 语料中使用了约 5.5 万亿个合成词元。3.1 版新增了在原生 FP8 下训练的 DPO 阶段,Sber 称它解决了让发布从 1 月推迟的重复循环问题。
在模型卡的表格里,Lightning 在七项通用和代码测试上平均 0.631,Qwen3-4B-Instruct 是 0.612,SmolLM3 是 0.514,gemma-3-4b-it 是 0.421。它在俄语测试上领先,MMLU RU 为 0.680,Qwen3-4B-Instruct 为 0.597,RuBQ 为 0.665,对 0.317。Qwen3-4B-Instruct 在 MMLU-Pro、BBH 和 HumanEval Plus 上领先,在模型卡的竞技场测试里,Qwen3-4B-Instruct-2507 平均 58.8,Lightning 是 51.2。速度方面,在一块 80 GB 的 H100 上用 vLLM、并发 32 时,FP8 加多词元预测每秒输出 3958 个词元,BF16 是 2866 个,模型卡列出的 YandexGPT-5-Lite-8B 是 3081 个。这些数字都是 Sber 自己的。
FP8 权重为 12.3 GB,BF16 权重为 23.0 GB,GGUF Q4_K_M 文件为 6.5 GB,模型卡给出了使用推测解码的 Transformers、vLLM 和 SGLang 示例。许可证是 MIT,写在模型卡元数据和 Sber 的公告里,仓库没有 LICENSE 文件。在截至 2026 年 11 月 11 日的 30 天里,Hugging Face 统计到 GGUF 仓库约 1.9 万次下载,BF16 约 6300 次,FP8 约 1900 次。
适合做什么
- 在单块 GPU 或配置不错的笔记本上做俄语聊天、摘要和问答。
- 快速部署,因为只激活 1.8B 参数,多词元预测还能加上推测解码。
- 需要小型、许可宽松的模型的产品中的函数调用。
- 作为俄语评测中很强的小型基线。
需要注意
- 虽然只激活 1.8B,全部 10B 参数都要放进内存,所以请按上面的文件大小做规划。
- Sber 自己的表格显示 Qwen3-4B-Instruct 在若干英语推理和代码测试上领先,Qwen3-4B-Instruct-2507 在竞技场测试上领先。
- 模型卡没有写明上下文长度,262144 个位置只来自配置文件。
- 仓库里没有 LICENSE 文件,请把 Sber 的公告和模型卡元数据一并存档。
性能数据来自开发方,未经独立验证。
需要多少内存?
以下为 10B-A1.8B GGUF Q4_K_M 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。
| 版本 | 参数量 | BF16 | FP8 / INT8 | 4-bit (Q4) | 可运行于 |
|---|---|---|---|---|---|
| 10B-A1.8B FP8 FP8 | 11.5B 激活 1.8B | 26 GB | 13 GB | 7.92 GB | 笔记本或手机 |
| 10B-A1.8B BF16 BF16 | 11.5B 激活 1.8B | 26 GB | 13 GB | 7.92 GB | 笔记本或手机 |
| 10B-A1.8B GGUF Q4_K_M INT4 | 11.5B 激活 1.8B | 26 GB | 13 GB | 7.15 GB | 笔记本或手机 |
估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。
许可证,用大白话说
最简短、最宽松的许可证。只要保留版权和许可声明,你几乎可以对模型做任何事。
延伸阅读
常见问题
- GigaChat 3.1 Lightning 是什么?
- GigaChat 3.1 Lightning 是 Sber 发布的小型免费 AI 模型,回答很快,因为它每次只用 100 亿参数中的 18 亿。它擅长俄语和英语,能调用工具,MIT 许可证允许商用。8 位文件约 12 GB,4 位文件为 6.5 GB。
- GigaChat 3.1 Lightning 可以商用吗?
- 可以。GigaChat 3.1 Lightning 采用 MIT 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
- GigaChat 3.1 Lightning 是开源的吗?
- GigaChat 3.1 Lightning 采用 MIT 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
- 我能在自己的电脑上运行 GigaChat 3.1 Lightning 吗?
- 可以。最小版本 10B-A1.8B GGUF Q4_K_M 在 4 位精度下约需 7.15 GB 内存,现代笔记本或中端显卡即可胜任。
- GigaChat 3.1 Lightning 是什么时候发布的?
- GigaChat 3.1 Lightning 由 Sber (GigaChat) 于 2026年3月24日 发布。
- GigaChat 3.1 Lightning 的上下文窗口有多长?
- GigaChat 3.1 Lightning 支持最长 256K token 的上下文窗口。
官方链接
来源
规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。
- GigaChat 3.1 Lightning model card (Hugging Face) huggingface.co
- GigaChat-3.1: a big update to the big models (Sber, Habr, 24 March 2026) habr.com
- GigaChat 3.1 Lightning GGUF files (Hugging Face) huggingface.co
发布时间等信息最近核实于 2026年11月11日。
相关模型
| 模型 | 发布时间 | 参数量 | 上下文 | 许可证 | 最小版本所需内存 |
|---|---|---|---|---|---|
| GigaChat 3.5 Ultra Sber (GigaChat) | 434B – 438B 激活 28B | 256K | MIT (宽松) | 299 GB 大内存台式机 | |
| Qwen3.6 Alibaba Qwen | 27.8B – 36B 激活 3B | 256K | Apache 2.0 (宽松) | 19 GB 游戏显卡 | |
| Gemma 4 Google DeepMind | 5.1B – 30.7B | 256K | Apache 2.0 (宽松) | 3.52 GB 笔记本或手机 | |
| Nemotron 3 Nano 4B NVIDIA | 3.97B | 256K | NVIDIA Nemotron (宽松) | 2.74 GB 笔记本或手机 |