待验证50% 置信观点精确时间
将AsymLoop扩展到MoE骨干意味着循环解码器中的层本身也是稀疏激活的,这进一步放大了参数效率。
1
来源数
50%
置信度
长期有效
时效性
2026/10/21
首次发现
来源
涉及实体
相关事实
待验证AsymLoop的分离设计带来计算效率:全局KV只需计算一次,循环迭代中仅需更新局部KV和状态。69% 相似待验证在匹配有效深度和训练token预算的条件下,AsymLoop比全循环(Full Loop)表现出更低的验证困惑度和更高的平均下游准确率。62% 相似待验证MoE稀疏架构每次前向传播只激活全部专家中的一小部分,在不成比例增加计算量的前提下大幅扩大模型参数量62% 相似待验证流式 ASR 采用分块解码策略,为降低延迟往往不能利用完整的未来上下文,因此局部声学歧义更容易导致早期错误。61% 相似待验证Async 调度将 rollout 和 training 拆分到不同 GPU 组并行运行,代价是策略滞后,训练数据来自稍早版本的模型,可能损害收敛稳定性和最终效果。59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1078928API
curl https://kongchang.com/api/v1/knowledge/claims/1078928MCP
get_claim(id=1078928)