待验证50% 置信事实精确时间
BCSA 对最近 4096 个 token 做精确窗口注意力,更久远的上下文按 4:1 池化成块,再由可学习的 indexer 读取 top 512 个块
1
来源数
50%
置信度
长期有效
时效性
2026/10/5
首次发现
来源
涉及实体
相关事实
待验证缓存命中率在大模型API调用场景中指KV Cache(键值缓存)的复用比例,模型可直接从缓存中读取已处理token的注意力键值对63% 相似待验证SHADOW将注意力状态以1-bit精度写到磁盘,每token占288字节,索引每token仅22字节,查询约1微秒定位记录,注意力状态约0.03ms回灌进模型,不用向量数据库或embedding模型62% 相似待验证一个200K上下文窗口的请求,其KV Cache可能占据数十GB显存61% 相似已验证上下文窗口是大模型单次能够处理的最大信息量,以token为单位计算,现代顶级模型的上下文窗口已从早期的4K token扩展至200K token甚至更高60% 相似待验证当前长上下文窗口(100K-1M tokens)的普及使Agent能够维持复杂任务的长期记忆60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/977112API
curl https://kongchang.com/api/v1/knowledge/claims/977112MCP
get_claim(id=977112)