Hy3
腾讯 2950 亿参数 MoE,210 亿激活,256K 上下文;在带地域限制许可证的预览版之后,改用 Apache 2.0 发布。
一句话概括. Hy3 是腾讯的主力开放语言模型。它是一个大型混合专家模型,处理每个词只用到 2950 亿参数中的 210 亿,所以运行成本比体量看起来低。它既能快速回答,也能一步步思考,面向智能体、编程和办公场景,许可证允许在任何地区商用。
概述
腾讯于 2026 年 7 月 6 日正式发布 Hy3,此前 4 月 23 日已发布预览版。它是混合专家模型,总参数 2950 亿,每个 token 激活 210 亿,另有一个 38 亿参数的多 token 预测层。模型有 80 层,192 个专家、每个 token 选 8 个,外加 1 个共享专家,采用分组查询注意力(64 个头、8 个键值头),上下文最长 256K token。腾讯把它描述为快慢思考混合的模型。BF16 权重约 598 GB,FP8 版本约 300 GB。
腾讯称 Hy3 超过同体量的模型,并能与参数量大两到五倍的旗舰开放模型相当。模型卡报告了一次由 270 位专家用自己工作中的任务做的盲测:Hy3 得分 2.67(满分 4),GLM-5.1 为 2.51;还有一些内部改进,例如幻觉率从 12.5% 降到 5.4%。腾讯还称,在 CodeBuddy、Cline 和 KiloCode 这几种智能体框架下,SWE-Bench Verified 的准确率波动不超过 4%。这些都是腾讯自己的评测,基准附录是以图片形式发布的。
许可证是 Apache 2.0。这与 Hy3 预览版不同:预览版采用腾讯混元社区许可证(Tencent Hy Community License),该许可证不适用于欧盟、英国和韩国。仓库中记录了用 vLLM 和 SGLang 部署、微调、强化学习后训练和量化的方法。腾讯还通过腾讯云 TokenHub 提供 API。8 月发布的 Hy4 preview 体量更大、时间更新,但仍标注为预览版。
适合做什么
- 在多卡服务器上做智能体、编程和办公工作流,每个 token 只激活 210 亿参数
- 想要采用 Apache 2.0 条款、没有地域限制的大模型的组织
- 最长 256K token 的长上下文工作
- 微调和强化学习实验,因为腾讯公开了后训练的方法
需要注意
- 完整模型 BF16 约 598 GB、FP8 约 300 GB,需要多卡服务器
- 所有基准和专家评测结果都来自腾讯,且表格是图片
- 4 月的预览版采用另一个带地域限制的许可证,请确认下载的是哪个仓库
- 它是纯文本模型,不支持图像输入
性能数据来自开发方,未经独立验证。
需要多少内存?
以下为 Hy3 (BF16) 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。
| 版本 | 参数量 | BF16 | FP8 / INT8 | 4-bit (Q4) | 可运行于 |
|---|---|---|---|---|---|
| Hy3 (BF16) BF16 | 295B 激活 21B | 679 GB | 339 GB | 204 GB | 大内存台式机 |
| Hy3-FP8 FP8 | 295B 激活 21B | 679 GB | 339 GB | 204 GB | 大内存台式机 |
估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。
许可证,用大白话说
最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。
延伸阅读
常见问题
- Hy3 是什么?
- Hy3 是腾讯的主力开放语言模型。它是一个大型混合专家模型,处理每个词只用到 2950 亿参数中的 210 亿,所以运行成本比体量看起来低。它既能快速回答,也能一步步思考,面向智能体、编程和办公场景,许可证允许在任何地区商用。
- Hy3 可以商用吗?
- 可以。Hy3 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
- Hy3 是开源的吗?
- Hy3 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
- 我能在自己的电脑上运行 Hy3 吗?
- 只有大内存机器才行。最小版本 Hy3 (BF16) 在 4 位精度下约需 204 GB。配备 128 至 512 GB 统一内存的台式机可以装下,但速度一般。
- Hy3 是什么时候发布的?
- Hy3 由 Tencent 于 2026年7月6日 发布。
- Hy3 的上下文窗口有多长?
- Hy3 支持最长 256K token 的上下文窗口。
官方链接
来源
规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。
- Tencent Hunyuan officially releases Hy3 (Tencent, 6 Jul 2026) tencent.com
- Hy3 model card (Hugging Face) huggingface.co
- Hy3 repository (GitHub) github.com
- Hy3 LICENSE (Apache 2.0) huggingface.co
- Hy3 preview license (Tencent Hy Community License) huggingface.co
发布时间等信息最近核实于 2026年11月11日。
相关模型
| 模型 | 发布时间 | 参数量 | 上下文 | 许可证 | 最小版本所需内存 |
|---|---|---|---|---|---|
| Hy4 preview Tencent | 770B 激活 49B | 1M | Apache 2.0 (宽松) | 531 GB GPU 服务器 | |
| GLM-5.3 Z.ai (Zhipu AI) | 753B 激活 40B | 1M | GLM-5.3 License (附条件) | 520 GB GPU 服务器 | |
| Qwen3.5 Alibaba Qwen | 873M – 403B 激活 17B | 256K | Apache 2.0 (宽松) | 0.602 GB 笔记本或手机 | |
| Nemotron 3 NVIDIA | 31.6B – 120B 激活 12B | 1M | NVIDIA Nemotron (宽松) | 21 GB 游戏显卡 |