待验证60% 置信事实精确时间

Hy4的激活参数约占总参数量的6.4%

2

来源数

60%

置信度

长期有效

时效性

2026/8/31

首次发现

来源

腾讯Hy4开源模型：770B参数主攻长程智能体任务

涉及实体

相关事实

已验证Hy3采用混合专家（MoE）架构，总参数量达2950亿（295B），每次推理仅激活210亿（21B）参数68% 相似待验证V4-Pro的总参数与活跃参数比例约为32:1的稀疏比68% 相似待验证W4A4量化将权重和激活值均压缩至4位整数，理论上相比FP16可将显存占用降低至约1/467% 相似待验证MoE模型中'35B'指总参数量，每个token只激活少量Expert（通常2-4个），实际计算量可能仅相当于6-7B的Dense模型65% 相似待验证推测解码中draft模型参数量通常约为目标模型的1/10到1/5,候选数k通常为4-864% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/828813

API

curl https://kongchang.com/api/v1/knowledge/claims/828813

MCP

get_claim(id=828813)