待验证50% 置信事实精确时间

GLM 5.3 在 Bedrock 上支持提示缓存（prompt caching）机制以优化成本与延迟

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/6

首次发现

有效期至：2027/1/4

来源

GLM 5.3 登陆 Amazon Bedrock：753B 参数专攻编码与智能体任务

涉及实体

GLM 5.3model Amazon Bedrockproduct 提示缓存concept

相关事实

待验证prefix caching（前缀缓存）技术在vLLM、SGLang等框架中已得到广泛支持，但这些实现通常只在进程生命周期内有效，重启后即失效62% 相似待验证Prompt Caching是指LLM服务商对请求中重复出现的前缀内容进行缓存，命中缓存则降低计算成本和延迟60% 相似待验证延迟注入(late injection)通过在合适时机注入内容使前缀缓存(prefix caching)依然生效59% 相似待验证Glutra支持对任意子节点进行微调，用户可在工作流执行过程中随时介入、修正和优化58% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/979349

API

curl https://kongchang.com/api/v1/knowledge/claims/979349

MCP

get_claim(id=979349)