待验证50% 置信事实精确时间
Prompt Caching 适用于带固定系统提示的对话服务、RAG 知识库问答、工具调用型 Agent、批量标准化处理等场景。
1
来源数
50%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
待验证Prompt Caching 是跨请求、跨用户、跨对话的优化，只要不同请求的提示词前缀完全一致，对应的 KV 结果就能全局共享。77% 相似待验证Prompt Caching是指LLM服务商对请求中重复出现的前缀内容进行缓存，命中缓存则降低计算成本和延迟76% 相似待验证护栏常见实现包括输入过滤、系统提示词约束、输出审核以及检索增强生成（RAG）69% 相似待验证前缀缓存的典型受益场景包括共享相同system prompt的多轮对话、RAG中重复出现的文档上下文，以及代码补全中稳定的代码库前缀68% 相似待验证Prompt Caching通过复用相同前缀内容的Key和Value矩阵来降低推理成本，Agent类应用因高频迭代和长上下文交互天然适合缓存优化68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1010943API
curl https://kongchang.com/api/v1/knowledge/claims/1010943MCP
get_claim(id=1010943)