[控场AI]
模型Hy-Memory

Hy-Memory-30B-A3B

腾讯开源的专为记忆提供者(Memory Provider)训练的任务型MoE模型,总参数300亿、推理激活约30亿参数,擅长生成会话摘要、上下文压缩和实体识别写入等记忆管理任务,输出文本而非latent表示。

时间轴 (近 90 天)

10月17日

MLX方面,上游mlx-lm尚不认识hy_v3,但hermitdave的Mixed4-6构建自带hy_v3.py并由config指向,可直接用原版mlx-lm加载;上传者报告M3 Max 64 GB上解码约65 tok/s,困惑度与8位版本差距0.94%以内,提取测试70/70事实召回。

待验证50%
10月17日

实际部署Hy-Memory-30B-A3B,现实门槛是24 GB显卡或32 GB Mac跑Q4_K_M,想上Q8_0加长上下文则需64 GB。

待验证50%
10月17日

Hy-Memory-30B-A3B的262K最大上下文是配置值,GGUF上传者实测仅到32K。

待验证50%
10月17日

腾讯公布的对比表显示,Hy-Memory-30B-A3B六项基准平均分55.49,略高于Claude Opus 5的54.62,差距0.87分;但细看单项,Hy-Memory框架下0.02分、MemOS下0.01分,基本是噪声级别。

待验证50%
10月17日

对比Qwen3-30B-A3B,Hy-Memory-30B-A3B平均提升11分;在训练中从未见过的EverMemOS框架上仍有56.89分。

待验证50%
10月17日

社区测试(34条英文+34条俄语对话)显示,所有量化版Hy-Memory-30B-A3B都能输出合法JSON(68/68),但严格成功仅23/34。

待验证50%
10月17日

vLLM v0.31.0测试中,vllm serve tencent/Hy-Memory-30B-A3B --served-model-name hy-memory可启动BF16检查点,权重约60 GB,需一张80 GB卡或两张48 GB卡张量并行。

待验证50%
10月17日

腾讯开源了Hy-Memory-30B-A3B模型,它是一个30B参数的混合专家模型(MoE),每token约激活3B参数。

待验证50%
10月17日

Hy-Memory-30B-A3B本身不存储记忆,而是作为记忆写入器,专门筛选信息写入外部记忆库并更新旧条目。

待验证50%
10月17日

Hy-Memory-30B-A3B采用Apache-2.0许可证发布,商用无需额外法律沟通。

待验证50%

还有 7 条时间轴事件

全部知识事实 (17)

待验证

MLX方面,上游mlx-lm尚不认识hy_v3,但hermitdave的Mixed4-6构建自带hy_v3.py并由config指向,可直接用原版mlx-lm加载;上传者报告M3 Max 64 GB上解码约65 tok/s,困惑度与8位版本差距0.94%以内,提取测试70/70事实召回。

50%
待验证

实际部署Hy-Memory-30B-A3B,现实门槛是24 GB显卡或32 GB Mac跑Q4_K_M,想上Q8_0加长上下文则需64 GB。

50%
待验证

Hy-Memory-30B-A3B的262K最大上下文是配置值,GGUF上传者实测仅到32K。

50%
待验证

腾讯公布的对比表显示,Hy-Memory-30B-A3B六项基准平均分55.49,略高于Claude Opus 5的54.62,差距0.87分;但细看单项,Hy-Memory框架下0.02分、MemOS下0.01分,基本是噪声级别。

50%
待验证

对比Qwen3-30B-A3B,Hy-Memory-30B-A3B平均提升11分;在训练中从未见过的EverMemOS框架上仍有56.89分。

50%
待验证

社区测试(34条英文+34条俄语对话)显示,所有量化版Hy-Memory-30B-A3B都能输出合法JSON(68/68),但严格成功仅23/34。

50%
待验证

vLLM v0.31.0测试中,vllm serve tencent/Hy-Memory-30B-A3B --served-model-name hy-memory可启动BF16检查点,权重约60 GB,需一张80 GB卡或两张48 GB卡张量并行。

50%
待验证

腾讯开源了Hy-Memory-30B-A3B模型,它是一个30B参数的混合专家模型(MoE),每token约激活3B参数。

50%
待验证

Hy-Memory-30B-A3B本身不存储记忆,而是作为记忆写入器,专门筛选信息写入外部记忆库并更新旧条目。

50%
待验证

Hy-Memory-30B-A3B采用Apache-2.0许可证发布,商用无需额外法律沟通。

50%
待验证

Hy-Memory-30B-A3B采用HYV3ForCausalLM架构,128个路由专家、每token激活8个,48层、隐藏维度2048,最大位置嵌入262,144,支持中英文。

50%
待验证

Hy-Memory-30B-A3B是专为记忆提供者(Memory Provider)训练的任务型模型,而非通用对话模型。

50%
待验证

Hy-Memory-30B-A3B擅长生成会话摘要、执行上下文压缩(compaction)、识别并写入实体等记忆管理任务。

50%
待验证

在Pi Blackhole系统中,Hy-Memory-30B-A3B可充当反射器(reflector)或丢弃器(dropper),让主模型专注于对话生成。

50%
待验证

对于消费级显卡用户,30B权重加载是最大的门槛,显存占用问题可能影响采用。

50%
待验证

如果腾讯推出更小规模版本(如7B或更小)或量化友好的部署方案,该模型实际采用率可能会更高。

50%
待验证

腾讯在Hugging Face上发布了Hy-Memory-30B-A3B模型。

50%

来源文章