待验证50% 置信事实精确时间
语义缓存通过将查询转化为向量嵌入并计算余弦相似度识别语义等价的查询，可将实际API调用量减少30%-70%
1
来源数
50%
置信度
长期有效
时效性
2026/7/8
首次发现
来源
Otari：开源LLM控制平面工具全面解析
hackernewshackernews2026/7/6
相关事实
待验证语义缓存通过向量相似度匹配复用历史LLM调用结果，能识别语义相近但表述不同的请求以减少API调用次数78% 相似待验证语义缓存通过将用户请求转化为向量嵌入，在向量空间中计算语义相似度，将语义相近的问题映射到同一缓存结果，从而减少模型调用次数和Token消耗76% 相似待验证通过向量检索结合嵌入模型对代码库预处理索引，智能体只需加载语义相关的代码片段，Token消耗可降低20倍以上75% 相似待验证语义缓存通过向量相似度匹配语义等价的查询，能对意思相近但措辞不同的请求命中同一缓存条目74% 相似待验证语义搜索将文本转换为高维向量，通过计算余弦相似度找出最相关的结论，使得不同表述方式的查询也能命中语义相符的结果73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/273264API
curl https://kongchang.com/api/v1/knowledge/claims/273264MCP
get_claim(id=273264)