概念implicit caching
隐式缓存
Gemini API 的成本优化机制,自动识别并复用连续请求中重复输入前缀的 KV 缓存,无需显式创建缓存对象,对开发者透明
时间轴 (近 90 天)
10月18日
隐式缓存(自动命中)的TTL往往更短,且不对外承诺精确值。
待验证50%
10月13日
隐式缓存是 Gemini API 的一种成本优化机制:当连续请求的输入前缀高度重复时,系统会自动识别并复用已计算的 KV 缓存,仅对新增部分按标准费率计费,复用部分按折扣价结算。
待验证50%
Gemini API 的成本优化机制,自动识别并复用连续请求中重复输入前缀的 KV 缓存,无需显式创建缓存对象,对开发者透明
隐式缓存(自动命中)的TTL往往更短,且不对外承诺精确值。
隐式缓存是 Gemini API 的一种成本优化机制:当连续请求的输入前缀高度重复时,系统会自动识别并复用已计算的 KV 缓存,仅对新增部分按标准费率计费,复用部分按折扣价结算。