待验证50% 置信基准精确时间
在 24 层、10B-A1B 的模型上使用 708B token 训练后,完整 Multi-View MoE 在九个下游任务的平均分上比基线提升 1.18 个百分点。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/30
首次发现
有效期至:2027/1/28
来源
涉及实体
相关事实
待验证Multi-View MoE 目前只在 10B-A1B 规模上验证,更大模型和更多路由器数量下的收益是否保持仍有待观察。73% 相似待验证MoE模型每个token只激活512个专家中的约10个,有效激活参数量约20-30B级别66% 相似待验证MoE架构每次推理仅激活少数专家,训练成本相对同等能力稠密模型大幅降低,10B激活1B相比10B稠密模型训练成本低10倍且推理更快65% 相似待验证“预训练吞吐达到单块H100的170%”这一数字受批次大小、序列长度、模型规模、精度格式以及互联带宽共同影响,并非通用结论,换用不同模型或超参后比例可能变化。65% 相似待验证在100帧生成任务的FVD指标上,欧拉运动引导取得76.18,优于最强基线的79.2064% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1115291API
curl https://kongchang.com/api/v1/knowledge/claims/1115291MCP
get_claim(id=1115291)