GigaChat 3.1 Lightning

Sber 的 10B 混合专家模型,激活 1.8B 参数,俄语表现强,提供 FP8、BF16 和 GGUF 文件,采用 MIT 许可证。

一句话概括. GigaChat 3.1 Lightning 是 Sber 发布的小型免费 AI 模型,回答很快,因为它每次只用 100 亿参数中的 18 亿。它擅长俄语和英语,能调用工具,MIT 许可证允许商用。8 位文件约 12 GB,4 位文件为 6.5 GB。

概述

GigaChat 3.1 Lightning 是 Sber 的 GigaChat 3.1 家族里的小型指令模型。Sber 的 Habr 博客在 2026 年 3 月 24 日与 700B 的 Ultra 一同宣布了它。它是 10B 的混合专家模型,激活 1.8B 参数(Hugging Face 统计为 11.48B),使用多头潜在注意力和多词元预测。配置显示它有 26 层,64 个路由专家,每个词元使用 4 个再加 1 个共享专家,通过 YaRN 缩放得到 262144 个位置,但模型卡没有写明上下文长度。训练语料涵盖 10 种语言,包括书籍、学术材料、代码和数学,模型卡称在更广的 GigaChat 3 语料中使用了约 5.5 万亿个合成词元。3.1 版新增了在原生 FP8 下训练的 DPO 阶段,Sber 称它解决了让发布从 1 月推迟的重复循环问题。

在模型卡的表格里,Lightning 在七项通用和代码测试上平均 0.631,Qwen3-4B-Instruct 是 0.612,SmolLM3 是 0.514,gemma-3-4b-it 是 0.421。它在俄语测试上领先,MMLU RU 为 0.680,Qwen3-4B-Instruct 为 0.597,RuBQ 为 0.665,对 0.317。Qwen3-4B-Instruct 在 MMLU-Pro、BBH 和 HumanEval Plus 上领先,在模型卡的竞技场测试里,Qwen3-4B-Instruct-2507 平均 58.8,Lightning 是 51.2。速度方面,在一块 80 GB 的 H100 上用 vLLM、并发 32 时,FP8 加多词元预测每秒输出 3958 个词元,BF16 是 2866 个,模型卡列出的 YandexGPT-5-Lite-8B 是 3081 个。这些数字都是 Sber 自己的。

FP8 权重为 12.3 GB,BF16 权重为 23.0 GB,GGUF Q4_K_M 文件为 6.5 GB,模型卡给出了使用推测解码的 Transformers、vLLM 和 SGLang 示例。许可证是 MIT,写在模型卡元数据和 Sber 的公告里,仓库没有 LICENSE 文件。在截至 2026 年 11 月 11 日的 30 天里,Hugging Face 统计到 GGUF 仓库约 1.9 万次下载,BF16 约 6300 次,FP8 约 1900 次。

适合做什么

  • 在单块 GPU 或配置不错的笔记本上做俄语聊天、摘要和问答。
  • 快速部署,因为只激活 1.8B 参数,多词元预测还能加上推测解码。
  • 需要小型、许可宽松的模型的产品中的函数调用。
  • 作为俄语评测中很强的小型基线。

需要注意

  • 虽然只激活 1.8B,全部 10B 参数都要放进内存,所以请按上面的文件大小做规划。
  • Sber 自己的表格显示 Qwen3-4B-Instruct 在若干英语推理和代码测试上领先,Qwen3-4B-Instruct-2507 在竞技场测试上领先。
  • 模型卡没有写明上下文长度,262144 个位置只来自配置文件。
  • 仓库里没有 LICENSE 文件,请把 Sber 的公告和模型卡元数据一并存档。

性能数据来自开发方,未经独立验证。

需要多少内存?

以下为 10B-A1.8B GGUF Q4_K_M 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。

版本 参数量 BF16 FP8 / INT8 4-bit (Q4) 可运行于
10B-A1.8B FP8 FP8 11.5B 激活 1.8B 26 GB 13 GB 7.92 GB 笔记本或手机
10B-A1.8B BF16 BF16 11.5B 激活 1.8B 26 GB 13 GB 7.92 GB 笔记本或手机
10B-A1.8B GGUF Q4_K_M INT4 11.5B 激活 1.8B 26 GB 13 GB 7.15 GB 笔记本或手机

估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。

显存计算器

许可证,用大白话说

最简短、最宽松的许可证。只要保留版权和许可声明,你几乎可以对模型做任何事。

进一步了解 MIT

延伸阅读

常见问题

GigaChat 3.1 Lightning 是什么?
GigaChat 3.1 Lightning 是 Sber 发布的小型免费 AI 模型,回答很快,因为它每次只用 100 亿参数中的 18 亿。它擅长俄语和英语,能调用工具,MIT 许可证允许商用。8 位文件约 12 GB,4 位文件为 6.5 GB。
GigaChat 3.1 Lightning 可以商用吗?
可以。GigaChat 3.1 Lightning 采用 MIT 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
GigaChat 3.1 Lightning 是开源的吗?
GigaChat 3.1 Lightning 采用 MIT 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
我能在自己的电脑上运行 GigaChat 3.1 Lightning 吗?
可以。最小版本 10B-A1.8B GGUF Q4_K_M 在 4 位精度下约需 7.15 GB 内存,现代笔记本或中端显卡即可胜任。
GigaChat 3.1 Lightning 是什么时候发布的?
GigaChat 3.1 Lightning 由 Sber (GigaChat) 于 2026年3月24日 发布。
GigaChat 3.1 Lightning 的上下文窗口有多长?
GigaChat 3.1 Lightning 支持最长 256K token 的上下文窗口。

官方链接

来源

规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。

发布时间等信息最近核实于 2026年11月11日。

相关模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
GigaChat 3.5 Ultra Sber (GigaChat) 434B – 438B 激活 28B 256K MIT (宽松) 299 GB 大内存台式机
Qwen3.6 Alibaba Qwen 27.8B – 36B 激活 3B 256K Apache 2.0 (宽松) 19 GB 游戏显卡
Gemma 4 Google DeepMind 5.1B – 30.7B 256K Apache 2.0 (宽松) 3.52 GB 笔记本或手机
Nemotron 3 Nano 4B NVIDIA 3.97B 256K NVIDIA Nemotron (宽松) 2.74 GB 笔记本或手机