Unverified50% confidenceSolutionExact time
在生成缓存key前对工具调用列表进行规范化排序可解决缓存命中率偏低的问题
1
Sources
50%
Confidence
Long-term
Relevance
9/11/2026
First Seen
Sources
Related Entities
Related Claims
Unverified实现缓存命中的通用原则是保持请求上下文的前缀尽可能稳定，将系统提示、工具定义等固定内容置于最前端，每轮变化的用户输入追加在末尾71% similarUnverified工具调用顺序的非确定性导致基于请求体哈希的缓存key将功能相同的请求识别为不同请求，产生缓存未命中69% similarUnverified自定义工具（Custom Tool）可以将重复流程封装起来实现一键复用，绕过重复推理69% similarUnverified定期重申关键指令、将关键规则附在最新输入附近能有效刷新模型对指令的记忆69% similarUnverifiedPrompt Caching通过复用相同前缀内容的Key和Value矩阵来降低推理成本，Agent类应用因高频迭代和长上下文交互天然适合缓存优化67% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/900810API
curl https://kongchang.com/api/v1/knowledge/claims/900810MCP
get_claim(id=900810)