[控场AI]
概念Cache Hit / 缓存命中

Token缓存命中

大模型API计费概念,当请求输入前缀与之前请求完全一致时服务端复用已缓存计算结果,该部分Token按更低的缓存命中价计费

来源文章