[
KongchangAI
]
Feed
Entities
Podcasts
Deep Dives
Developers
About
Get CLI
中文
Concept
Prompt Caching
提示缓存
大语言模型API中的一项推理优化机制,通过在服务端复用多轮对话中不变前缀部分(系统提示、工具定义等)的KV Cache,避免重复计算,从而降低延迟与API调用成本
Source Articles
Claude Code v2.1.265更新详解:插件生态与稳定性优化
Sep 11