待验证50% 置信注意事项精确时间
Haiku 5.5的缓存最低长度为512 token,短于此的提示词不会报错但也不会缓存;缓存条目要等第一次响应开始后才可用;默认缓存存活5分钟,每次命中免费刷新。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至:2027/1/13
来源
80行代码实测Anthropic上下文检索:块前缀到底能提升多少召回率
rss2026/10/15
涉及实体
相关事实
待验证当上下文接近 512K token 时,预填充与解码解耦架构可确保用户在读取整本规格书后仍能在 800 毫秒内收到首个响应 token。65% 相似待验证嵌入模型的最大长度意味着超过512 token的输入会被静默截断,因此示例中把块预算控制为480 token。64% 相似待验证Claude Haiku 5.5 的上下文窗口从 Haiku 4.5 的 20 万 tokens 扩展到 100 万 tokens,输出上限从 64K 提升到 128K。62% 相似待验证本地模型推理速度慢(约1-5 tokens/秒)而云端可达50+ tokens/秒,本地模型能力天花板较低但无API成本和隐私顾虑62% 相似待验证一个 AWS 示例应用在 28 次审查同一文档的调用中,CloudWatch 记录了 196,680 个 token 写入缓存、0 个读取,原因是缓存点被放在每个条目自身指令之后;将缓存点移到文档之后后,第二个条目立即变为 4,624 个 token 的读取。61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1034448API
curl https://kongchang.com/api/v1/knowledge/claims/1034448MCP
get_claim(id=1034448)