待验证50% 置信事实精确时间

当多个请求共享相同前缀（如系统提示词）时，高效的KV Cache复用可以大幅降低计算开销

1

来源数

50%

置信度

长期有效

时效性

2026/9/22

首次发现

来源

MiMo-v2.6-Pro深度剖析：智能、性能与价格三维评估

涉及实体

KV Cacheconcept

相关事实

待验证通过缓存中间结果、选择性使用高价模型、批量处理请求，可将API调用成本降低30%-70%71% 相似待验证缓存命中降低的是单次请求的费率，而非Token的绝对消耗量71% 相似待验证当推理服务同时服务大量并发请求时，批处理是压低单位成本的核心手段68% 相似待验证Prompt Caching通过复用前缀KV Cache，以Anthropic定价为参考可将延迟降低约85%、成本降低约90%68% 相似待验证Prompt Caching可将公共前缀的KV Cache持久化存储，成本可降至普通输入的10-20%67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/940158

API

curl https://kongchang.com/api/v1/knowledge/claims/940158

MCP

get_claim(id=940158)