待验证50% 置信事实精确时间
注意力层无法通过批处理节省，因为每个序列都有自己独有的KV缓存
1
来源数
50%
置信度
长期有效
时效性
2026/9/23
首次发现
来源
涉及实体
相关事实
待验证可变形注意力的稀疏采样导致不规则内存访问，无法被标准矩阵乘法库（如cuBLAS、cuDNN）高效处理，需编写自定义CUDA核函数69% 相似待验证当前LLM的记忆主要受限于上下文窗口，无法真正跨越多次独立对话保留信息68% 相似待验证大模型的记忆仅限于当前上下文窗口内的token序列，对话结束后所有中间状态消失68% 相似待验证Prompt缓存必须从前缀开始严格匹配，一旦中间某个token变化，其后所有token的注意力计算都会改变，已缓存的KV对随之失效67% 相似待验证现有向量数据库记忆方案缺乏时效性衰减机制，无法区分记忆是否被采纳并产生正向效果，也没有机制合并冗余或删除有害记忆66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/942435API
curl https://kongchang.com/api/v1/knowledge/claims/942435MCP
get_claim(id=942435)