待验证50% 置信基准精确时间
在1M长度下,RecSA在RULER基准上得分为60.5,而最佳基线Dense + DCA仅为40.0。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/11/6
首次发现
有效期至:2026/11/20
来源
涉及实体
相关事实
待验证借助优化的kernel,RecSA从64K到2M的端到端预填充和解码均快于稠密注意力。66% 相似待验证在一个不重叠的验证切片上,Continuum Attention 相比最强的 softmax 基线(经过筛选的版本)获得了 0.0457 nats/byte 的优势,并附有配对 95% 置信区间。62% 相似待验证MLA(Multi-head Latent Attention)通过低秩压缩将 KV 缓存的显存占用降低至传统 MHA 的约 1/859% 相似待验证将上下文从192000拉到256000时专家缓存从16.44G降到13.66G、KV从4.31G升到7G,速度几乎零代价,因KV全显存加专家缓存自动平衡58% 相似已验证以LLaMA-2 70B模型为例,2048 token的序列需约4GB显存仅用于KV缓存58% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1141965API
curl https://kongchang.com/api/v1/knowledge/claims/1141965MCP
get_claim(id=1141965)