待验证50% 置信决策规则精确时间
语义缓存命中判断通常设置预设相似度阈值（例如0.9），超过则直接返回缓存答案跳过LLM调用
1
来源数
50%
置信度
长期有效
时效性
2026/7/16
首次发现
来源
相关事实
待验证语义缓存通过计算请求嵌入向量的余弦相似度（阈值通常0.9-0.95）来复用历史结果，在重复查询占比高的场景缓存命中率可达30%-50%79% 相似已验证语义缓存机制对相似请求的历史响应进行向量化存储，当语义相似度超过阈值时直接返回缓存结果以降低上游API调用频次与成本75% 相似待验证绝大多数LLM评测工具只在答案已经呈现给用户之后才进行打分，无法实时拦截错误输出69% 相似待验证语义缓存的缓存失效比传统缓存更复杂，因为语义匹配边界模糊，旧答案可能在某阈值下仍被命中69% 相似待验证确定性索引保证同一查询必然返回同一结果，而ANN算法（如HNSW、IVF-PQ）以牺牲精确性换取毫秒级检索，结果本质上是概率性的67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/526408API
curl https://kongchang.com/api/v1/knowledge/claims/526408MCP
get_claim(id=526408)