待验证50% 置信事实精确时间

通过缓存对重复性高的相同查询进行本地或Redis缓存，可将成本削减40%~60%

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

MeshAPI实战：一个网关统一千款大模型的完整指南

涉及实体

LLM Gatewayconcept Redisproduct

相关事实

已验证OpenAI Prompt Caching 可将重复前缀的缓存成本降至原价的10%-25%74% 相似待验证通过缓存中间结果、选择性使用高价模型、批量处理请求，可将API调用成本降低30%-70%73% 相似待验证上下文缓存机制可将需要反复查询同一知识库的企业应用API成本降低60%-80%，部分提供商缓存命中token折扣高达90%71% 相似待验证提示词缓存（Prompt Caching）机制通常可节省 50%～90% 的输入成本71% 相似待验证Anthropic研发的提示词缓存技术可将包含大量重复上下文的任务成本降低50%以上70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/909918

API

curl https://kongchang.com/api/v1/knowledge/claims/909918

MCP

get_claim(id=909918)