Hy3

腾讯 2950 亿参数 MoE,210 亿激活,256K 上下文;在带地域限制许可证的预览版之后,改用 Apache 2.0 发布。

一句话概括. Hy3 是腾讯的主力开放语言模型。它是一个大型混合专家模型,处理每个词只用到 2950 亿参数中的 210 亿,所以运行成本比体量看起来低。它既能快速回答,也能一步步思考,面向智能体、编程和办公场景,许可证允许在任何地区商用。

概述

腾讯于 2026 年 7 月 6 日正式发布 Hy3,此前 4 月 23 日已发布预览版。它是混合专家模型,总参数 2950 亿,每个 token 激活 210 亿,另有一个 38 亿参数的多 token 预测层。模型有 80 层,192 个专家、每个 token 选 8 个,外加 1 个共享专家,采用分组查询注意力(64 个头、8 个键值头),上下文最长 256K token。腾讯把它描述为快慢思考混合的模型。BF16 权重约 598 GB,FP8 版本约 300 GB。

腾讯称 Hy3 超过同体量的模型,并能与参数量大两到五倍的旗舰开放模型相当。模型卡报告了一次由 270 位专家用自己工作中的任务做的盲测:Hy3 得分 2.67(满分 4),GLM-5.1 为 2.51;还有一些内部改进,例如幻觉率从 12.5% 降到 5.4%。腾讯还称,在 CodeBuddy、Cline 和 KiloCode 这几种智能体框架下,SWE-Bench Verified 的准确率波动不超过 4%。这些都是腾讯自己的评测,基准附录是以图片形式发布的。

许可证是 Apache 2.0。这与 Hy3 预览版不同:预览版采用腾讯混元社区许可证(Tencent Hy Community License),该许可证不适用于欧盟、英国和韩国。仓库中记录了用 vLLM 和 SGLang 部署、微调、强化学习后训练和量化的方法。腾讯还通过腾讯云 TokenHub 提供 API。8 月发布的 Hy4 preview 体量更大、时间更新,但仍标注为预览版。

适合做什么

  • 在多卡服务器上做智能体、编程和办公工作流,每个 token 只激活 210 亿参数
  • 想要采用 Apache 2.0 条款、没有地域限制的大模型的组织
  • 最长 256K token 的长上下文工作
  • 微调和强化学习实验,因为腾讯公开了后训练的方法

需要注意

  • 完整模型 BF16 约 598 GB、FP8 约 300 GB,需要多卡服务器
  • 所有基准和专家评测结果都来自腾讯,且表格是图片
  • 4 月的预览版采用另一个带地域限制的许可证,请确认下载的是哪个仓库
  • 它是纯文本模型,不支持图像输入

性能数据来自开发方,未经独立验证。

需要多少内存?

以下为 Hy3 (BF16) 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。

版本 参数量 BF16 FP8 / INT8 4-bit (Q4) 可运行于
Hy3 (BF16) BF16 295B 激活 21B 679 GB 339 GB 204 GB 大内存台式机
Hy3-FP8 FP8 295B 激活 21B 679 GB 339 GB 204 GB 大内存台式机

估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。

显存计算器

许可证,用大白话说

最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。

进一步了解 Apache 2.0

延伸阅读

常见问题

Hy3 是什么?
Hy3 是腾讯的主力开放语言模型。它是一个大型混合专家模型,处理每个词只用到 2950 亿参数中的 210 亿,所以运行成本比体量看起来低。它既能快速回答,也能一步步思考,面向智能体、编程和办公场景,许可证允许在任何地区商用。
Hy3 可以商用吗?
可以。Hy3 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
Hy3 是开源的吗?
Hy3 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
我能在自己的电脑上运行 Hy3 吗?
只有大内存机器才行。最小版本 Hy3 (BF16) 在 4 位精度下约需 204 GB。配备 128 至 512 GB 统一内存的台式机可以装下,但速度一般。
Hy3 是什么时候发布的?
Hy3 由 Tencent 于 2026年7月6日 发布。
Hy3 的上下文窗口有多长?
Hy3 支持最长 256K token 的上下文窗口。

官方链接

来源

规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。

发布时间等信息最近核实于 2026年11月11日。

相关模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
Hy4 preview Tencent 770B 激活 49B 1M Apache 2.0 (宽松) 531 GB GPU 服务器
GLM-5.3 Z.ai (Zhipu AI) 753B 激活 40B 1M GLM-5.3 License (附条件) 520 GB GPU 服务器
Qwen3.5 Alibaba Qwen 873M – 403B 激活 17B 256K Apache 2.0 (宽松) 0.602 GB 笔记本或手机
Nemotron 3 NVIDIA 31.6B – 120B 激活 12B 1M NVIDIA Nemotron (宽松) 21 GB 游戏显卡