待验证50% 置信事实精确时间
缓存输入机制通过复用相同前缀内容的KV缓存跳过重复推理计算,命中缓存的Token以更低价格计费
1
来源数
50%
置信度
长期有效
时效性
2026/10/8
首次发现
来源
涉及实体
相关事实
已验证语义缓存机制对相似请求的历史响应进行向量化存储,当语义相似度超过阈值时直接返回缓存结果以降低上游API调用频次与成本79% 相似待验证Prompt 缓存依赖于前缀的精确匹配,一旦技能定义的顺序或内容发生微小变化,缓存即失效75% 相似待验证Prompt缓存必须从前缀开始严格匹配,一旦中间某个token变化,其后所有token的注意力计算都会改变,已缓存的KV对随之失效75% 相似已验证KV Cache机制中,复用已缓存的KV值为命中,上下文变化导致缓存失效需重新计算为未命中74% 相似待验证提示缓存以精确的Token序列匹配为前提,前缀中任何位置发生改变缓存就会失效,从该改动位置起的所有Token都需重新计算73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/988859API
curl https://kongchang.com/api/v1/knowledge/claims/988859MCP
get_claim(id=988859)