待验证50% 置信事实精确时间
Hy4-Preview (HYV4) 是一款780B参数的混合专家(MoE)语言模型，每个token仅激活49B参数，上下文窗口达100万token
1
来源数
50%
置信度
长期有效
时效性
2026/10/4
首次发现
来源
涉及实体
相关事实
待验证HBM4E 是在 HBM4 基础上的增强版本，面向对带宽极度敏感的高端 AI 训练场景66% 相似待验证Hymba是NVIDIA于2024年提出的混合头注意力架构，在同一层内同时部署SSM头和注意力头，通过可学习门控机制融合输出，在1.5B参数规模下超越同规模纯Transformer和纯SSM模型64% 相似待验证V4-Pro采用混合专家（MoE）架构，总参数量达到1.6万亿（1.6T），活跃参数为490亿（49B）64% 相似待验证HY3是腾讯混元推出的模型，是目前3000亿参数以下类别中最强的开源模型之一63% 相似待验证HY3采用混合专家（MoE）架构，总参数量2950亿，激活参数210亿，配备192个专家，采用Top-8路由机制62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/972031API
curl https://kongchang.com/api/v1/knowledge/claims/972031MCP
get_claim(id=972031)