待验证50% 置信事实精确时间
KDA 是线性注意力机制变体,使用固定大小的循环状态,不保留 KV 缓存
1
来源数
50%
置信度
长期有效
时效性
2026/10/5
首次发现
来源
涉及实体
相关事实
待验证RWKV是一种将注意力机制替换为线性递推公式的架构,推理时内存占用随序列长度恒定而非线性增长66% 相似待验证KVCache是Transformer架构中缓存之前所有token的Key和Value向量以避免重复计算的机制,其显存占用随上下文长度线性增长65% 相似待验证在大语言模型推理中,KV-Cache用于存储注意力机制中已计算的键值对,从而避免重复计算64% 相似已验证KV Cache是Transformer架构的核心推理优化机制,其显存占用量会随序列长度和并发批次线性增长61% 相似待验证KV Cache技术允许模型在自回归生成时复用历史token的注意力Key-Value矩阵计算结果,使长对话推理延迟从O(n²)降低至接近线性61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/977111API
curl https://kongchang.com/api/v1/knowledge/claims/977111MCP
get_claim(id=977111)