待验证50% 置信事实精确时间
AsymLoop通过单一softmax对全局KV和局部KV进行联合注意力,使每次更新整合持久上下文与当前中间状态。
1
来源数
50%
置信度
长期有效
时效性
2026/10/21
首次发现
来源
涉及实体
相关事实
待验证AsymLoop的解码器是权重绑定的循环模块,其隐藏状态在每次迭代中更新,并据此生成局部KV。71% 相似待验证算子融合可将 LayerNorm、注意力、MLP 等操作合并为单一 kernel,减少启动开销和中间结果的显存读写60% 相似待验证ASGI 框架基于事件循环,当一个协程等待 I/O 时会自动切换处理其他就绪协程,从而以单线程实现数千级别的并发连接58% 相似待验证上下文并行(Context Parallelism)将输入序列在序列维度切片,每张 GPU 处理一段子序列的 attention 计算,各卡通过 all-gather 同步 KV cache58% 相似待验证优化 KV 缓存的方法包括分组查询注意力(GQA)、分页注意力(如 vLLM 的 PagedAttention)和滑动窗口注意力。57% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1078919API
curl https://kongchang.com/api/v1/knowledge/claims/1078919MCP
get_claim(id=1078919)