Hy-Memory-30B-A3B
腾讯开源的专为记忆提供者(Memory Provider)训练的任务型MoE模型,总参数300亿、推理激活约30亿参数,擅长生成会话摘要、上下文压缩和实体识别写入等记忆管理任务,输出文本而非latent表示。
时间轴 (近 90 天)
MLX方面,上游mlx-lm尚不认识hy_v3,但hermitdave的Mixed4-6构建自带hy_v3.py并由config指向,可直接用原版mlx-lm加载;上传者报告M3 Max 64 GB上解码约65 tok/s,困惑度与8位版本差距0.94%以内,提取测试70/70事实召回。
实际部署Hy-Memory-30B-A3B,现实门槛是24 GB显卡或32 GB Mac跑Q4_K_M,想上Q8_0加长上下文则需64 GB。
Hy-Memory-30B-A3B的262K最大上下文是配置值,GGUF上传者实测仅到32K。
腾讯公布的对比表显示,Hy-Memory-30B-A3B六项基准平均分55.49,略高于Claude Opus 5的54.62,差距0.87分;但细看单项,Hy-Memory框架下0.02分、MemOS下0.01分,基本是噪声级别。
对比Qwen3-30B-A3B,Hy-Memory-30B-A3B平均提升11分;在训练中从未见过的EverMemOS框架上仍有56.89分。
社区测试(34条英文+34条俄语对话)显示,所有量化版Hy-Memory-30B-A3B都能输出合法JSON(68/68),但严格成功仅23/34。
vLLM v0.31.0测试中,vllm serve tencent/Hy-Memory-30B-A3B --served-model-name hy-memory可启动BF16检查点,权重约60 GB,需一张80 GB卡或两张48 GB卡张量并行。
腾讯开源了Hy-Memory-30B-A3B模型,它是一个30B参数的混合专家模型(MoE),每token约激活3B参数。
Hy-Memory-30B-A3B本身不存储记忆,而是作为记忆写入器,专门筛选信息写入外部记忆库并更新旧条目。
Hy-Memory-30B-A3B采用Apache-2.0许可证发布,商用无需额外法律沟通。
还有 7 条时间轴事件
全部知识事实 (17)
MLX方面,上游mlx-lm尚不认识hy_v3,但hermitdave的Mixed4-6构建自带hy_v3.py并由config指向,可直接用原版mlx-lm加载;上传者报告M3 Max 64 GB上解码约65 tok/s,困惑度与8位版本差距0.94%以内,提取测试70/70事实召回。
50%待验证实际部署Hy-Memory-30B-A3B,现实门槛是24 GB显卡或32 GB Mac跑Q4_K_M,想上Q8_0加长上下文则需64 GB。
50%待验证Hy-Memory-30B-A3B的262K最大上下文是配置值,GGUF上传者实测仅到32K。
50%待验证腾讯公布的对比表显示,Hy-Memory-30B-A3B六项基准平均分55.49,略高于Claude Opus 5的54.62,差距0.87分;但细看单项,Hy-Memory框架下0.02分、MemOS下0.01分,基本是噪声级别。
50%待验证对比Qwen3-30B-A3B,Hy-Memory-30B-A3B平均提升11分;在训练中从未见过的EverMemOS框架上仍有56.89分。
50%待验证社区测试(34条英文+34条俄语对话)显示,所有量化版Hy-Memory-30B-A3B都能输出合法JSON(68/68),但严格成功仅23/34。
50%待验证vLLM v0.31.0测试中,vllm serve tencent/Hy-Memory-30B-A3B --served-model-name hy-memory可启动BF16检查点,权重约60 GB,需一张80 GB卡或两张48 GB卡张量并行。
50%待验证腾讯开源了Hy-Memory-30B-A3B模型,它是一个30B参数的混合专家模型(MoE),每token约激活3B参数。
50%待验证Hy-Memory-30B-A3B本身不存储记忆,而是作为记忆写入器,专门筛选信息写入外部记忆库并更新旧条目。
50%待验证Hy-Memory-30B-A3B采用Apache-2.0许可证发布,商用无需额外法律沟通。
50%待验证Hy-Memory-30B-A3B采用HYV3ForCausalLM架构,128个路由专家、每token激活8个,48层、隐藏维度2048,最大位置嵌入262,144,支持中英文。
50%待验证Hy-Memory-30B-A3B是专为记忆提供者(Memory Provider)训练的任务型模型,而非通用对话模型。
50%待验证Hy-Memory-30B-A3B擅长生成会话摘要、执行上下文压缩(compaction)、识别并写入实体等记忆管理任务。
50%待验证在Pi Blackhole系统中,Hy-Memory-30B-A3B可充当反射器(reflector)或丢弃器(dropper),让主模型专注于对话生成。
50%待验证对于消费级显卡用户,30B权重加载是最大的门槛,显存占用问题可能影响采用。
50%待验证如果腾讯推出更小规模版本(如7B或更小)或量化友好的部署方案,该模型实际采用率可能会更高。
50%待验证腾讯在Hugging Face上发布了Hy-Memory-30B-A3B模型。
50%