待验证50% 置信事实精确时间
9router的RTK Token Saver在工具输出（git diff、grep、ls、日志）到达模型前压缩，每次请求节省20%~40%输入Token。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/16
首次发现
有效期至：2027/1/14
来源
涉及实体
相关事实
待验证前缀缓存通过复用相同上下文前缀的KV向量缓存，可为AI智能体场景带来50%-80%的计算节省，并显著降低首token延迟（TTFT）63% 相似待验证TTC模式让模型编写TypeScript代码将多个工具调用压缩为一次执行，以节省Token但调试难度增加60% 相似待验证通过NVCODEC绑定，RTSP流可直接在显存内完成解码，解码后帧数据不接触系统内存，消除CPU到GPU的拷贝开销60% 相似待验证vLLM的前缀缓存（Prefix Caching）对KV Cache块计算哈希值，当新请求输入前缀与已缓存请求重叠时直接复用物理缓存块，跳过该部分prefill计算60% 相似待验证Prompt Caching是指LLM服务商对请求中重复出现的前缀内容进行缓存，命中缓存则降低计算成本和延迟59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1047562API
curl https://kongchang.com/api/v1/knowledge/claims/1047562MCP
get_claim(id=1047562)