Hy-Memory
腾讯 30B 混合专家模型(3B 激活),专为 Mem0、MemOS 和 Hy-Memory 写长期记忆而训练。Apache 2.0。
一句话概括. Hy-Memory 是专门负责 AI 助手记忆环节的模型。每次对话之后,它决定哪些事实值得记住、怎样措辞,以及怎样更新已经存储的内容。它的目标是取代 Mem0、MemOS 等记忆工具通常为这项工作调用的大型通用模型。
概述
在 Mem0、MemOS 或腾讯自己的 Hy-Memory 框架这样的外部记忆系统里,语言模型要在每次交流后决定保留什么、记录得多精确,以及新证据应该如何改变已存储的内容。腾讯混元训练了 Hy-Memory-30B-A3B 来承担这项工作以取代通用模型,它是混合专家模型,每个 token 约激活 3B 参数。它的 Hugging Face 仓库出现在 2026 年 10 月 15 日,技术报告也是同一天的日期。配置文件使用的 HYV3 架构类与 Hy3 系列相同,有 128 个专家、每个 token 激活 8 个,位置上限为 262,144 token,模型卡标注的语言是英文和中文。
训练分两个阶段。记忆在线策略蒸馏让学生模型在自己写出的状态上学习各框架的写入协议,随后的记忆强化学习用每个片段的探针、跨片段归因的奖励、过度存储控制和片段级 GRPO 来优化下游的可回答性。在基准测试的固定 20% 子样本上,腾讯报告四种框架的宏平均为 55.49,Claude Opus 5 为 54.62,DeepSeek V4.1 Flash 为 53.64,Hy3 为 51.63,Qwen3.6-35B-A3B 为 50.37。EverMemOS 没有参与训练,Hy-Memory 在上面得 56.89,Claude Opus 5 为 54.04。在 Hy-Memory 框架上领先 Claude Opus 5 只有 0.02 分,在 MemOS 上只有 0.01 分。
评测中只更换记忆写入模型,框架版本、提示词、检索设置、回答模型和评判模型都保持不变。快速上手示例用 vLLM(测试版本 0.31.0)通过兼容 OpenAI 的 API 提供服务,并在无思考模式下以 JSON 列表提取用户事实。BF16 权重约 60.1 GB。腾讯还发布了约 30.6 GB 的 FP8 版本,以及 8 GB 到 32 GB 的 GGUF 版本,其 GGUF 模型卡报告了一次 LoCoMo 运行的结果,约 8 GB 的专家混合版本得 57.25,最好的 Q6_K 版本为 58.78。许可证是 Apache 2.0,LICENSE 文件称没有增加任何限制。截至 2026 年 11 月 11 日的 30 天内,Hugging Face 统计 BF16 仓库约有 7,400 次下载,官方 GGUF 仓库约 34,800 次。
适合做什么
- 在 Mem0、MemOS 或 Hy-Memory 流程里,用更小、可自托管的记忆写入模型替换通用模型
- 降低写入环节的成本,因为每个 token 只激活约 3B 参数
- 在其他框架上试用这个记忆写入模型,因为模型卡称它可以迁移到 EverMemOS 这类未见过的框架
- 用官方的 FP8 或 Q4_K_M GGUF 版本(约 31 GB 和 18 GB)在单台机器上运行
需要注意
- 它是专门写记忆的模型,不是通用聊天模型,模型卡也只报告了记忆类基准
- 所有结果都来自腾讯自己在固定 20% 子样本上的测试,在四个框架中的两个上,领先 Claude Opus 5 的幅度只有 0.02 分和 0.01 分
- 它是在 Mem0、MemOS 和 Hy-Memory 的特定框架配置里训练的,所以要在你自己的框架版本和提示词上检查效果
- GGUF 的分数是在一种 LoCoMo 设置上的单次运行,腾讯说明它们并不声称量化无损
性能数据来自开发方,未经独立验证。
需要多少内存?
以下为 Hy-Memory-30B-A3B (Q4_K_M GGUF) 版本的估算。混合专家模型虽然每个 token 只用到部分专家,但所有专家都必须装进内存:总参数量决定所需内存,激活参数量决定速度。
| 版本 | 参数量 | BF16 | FP8 / INT8 | 4-bit (Q4) | 可运行于 |
|---|---|---|---|---|---|
| Hy-Memory-30B-A3B BF16 | 30.1B 激活 3B | 69 GB | 35 GB | 21 GB | 游戏显卡 |
| Hy-Memory-30B-A3B-FP8 FP8 | 30.1B 激活 3B | 69 GB | 35 GB | 21 GB | 游戏显卡 |
| Hy-Memory-30B-A3B (Q4_K_M GGUF) INT4 | 30.1B 激活 3B | 69 GB | 35 GB | 20 GB | 游戏显卡 |
估算方法:权重大小加约 15% 的运行开销。实际占用会随上下文长度增长,也取决于所用的软件。
许可证,用大白话说
最常见的宽松型许可证之一。你可以使用、修改模型并基于它销售产品,只需遵守少量条件。
常见问题
- Hy-Memory 是什么?
- Hy-Memory 是专门负责 AI 助手记忆环节的模型。每次对话之后,它决定哪些事实值得记住、怎样措辞,以及怎样更新已经存储的内容。它的目标是取代 Mem0、MemOS 等记忆工具通常为这项工作调用的大型通用模型。
- Hy-Memory 可以商用吗?
- 可以。Hy-Memory 采用 Apache 2.0 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
- Hy-Memory 是开源的吗?
- Hy-Memory 采用 Apache 2.0 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
- 我能在自己的电脑上运行 Hy-Memory 吗?
- 可以,但需要一块好显卡。最小版本 Hy-Memory-30B-A3B (Q4_K_M GGUF) 在 4 位精度下约需 20 GB 内存,适合 24 至 32 GB 的游戏显卡,或 32 GB 及以上内存的 Mac。
- Hy-Memory 是什么时候发布的?
- Hy-Memory 由 Tencent 于 2026年10月15日 发布。
- Hy-Memory 的上下文窗口有多长?
- Hy-Memory 支持最长 256K token 的上下文窗口。
官方链接
来源
规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。
- Hy-Memory-30B-A3B: Attributed Reinforcement Learning for Long-Term Memory Writing (arXiv, 15 Oct 2026) arxiv.org
- Hy-Memory-30B-A3B model card (Hugging Face) huggingface.co
- Hy-Memory-30B-A3B-GGUF model card (Hugging Face) huggingface.co
- Hy-Memory repository (GitHub) github.com
- Hy-Memory-30B-A3B LICENSE (Apache 2.0) huggingface.co
发布时间等信息最近核实于 2026年11月11日。
相关模型
| 模型 | 发布时间 | 参数量 | 上下文 | 许可证 | 最小版本所需内存 |
|---|---|---|---|---|---|
| MemT-1.0 MemTensor | 35.1B – 288B 激活 17B | 256K | Apache 2.0 (宽松) | 24 GB 游戏显卡 | |
| Hy3 Tencent | 295B 激活 21B | 256K | Apache 2.0 (宽松) | 204 GB 大内存台式机 | |
| Qwen3.6 Alibaba Qwen | 27.8B – 36B 激活 3B | 256K | Apache 2.0 (宽松) | 19 GB 游戏显卡 | |
| DeepSeek V4.1 Flash DeepSeek | 552B 激活 16B | 1M | MIT (宽松) | 561 GB GPU 服务器 |