已过期50% 置信事实精确时间
Anthropic的Claude要求前缀长度超过1024 token才触发Prompt Caching,OpenAI则以128 token为粒度自动缓存
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/11
首次发现
此条事实已过期,仅作历史留存,不再代表当前状态
有效期至:2026/10/9(已过期)
来源
BingoCode:可离线部署的开源AI编程工具,Claude Code替代方案
bilibili菅田柒2026/7/6
相关事实
待验证Anthropic要求缓存的最小单位是1024个Token,OpenAI以128个Token为粒度进行缓存匹配69% 相似待验证200K token的上下文请求相比8K token请求,需要约25倍的KV-Cache显存66% 相似待验证1 个 Token 约等于 0.75 个英文单词,现代模型已将上下文窗口上限扩展至 128K Token65% 相似待验证一项日志研究测量出各Harness在读到用户提示词前发送的Token:OpenCode约7000 tokens,CloudCode约33000 tokens,Pi约1300 tokens65% 相似待验证以LLaMA-2 70B为例,处理4096 token上下文、批量大小32时,KV Cache可消耗超过80GB显存61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/486777API
curl https://kongchang.com/api/v1/knowledge/claims/486777MCP
get_claim(id=486777)