待验证50% 置信解决方案精确时间
给路由器只传递最新用户消息加一段简短摘要（而非整段历史），并给 Supervisor 挂载 pre_model_hook，可以精简其输入、降低 Token 消耗。
1
来源数
50%
置信度
长期有效
时效性
2026/10/14
首次发现
来源
涉及实体
相关事实
待验证控制Token成本的工程手段包括语义缓存、上下文窗口压缩（对历史消息做摘要）和路由策略（用小模型判断是否需要调用大模型）66% 相似待验证对带变量占位符的静态 prompt 模板，可在发送给模型前先缓存渲染后的 prompt，使用内存 LRU 缓存能削减字符串插值耗时并缩小请求体大小。65% 相似待验证流式传输允许服务端在生成过程中将 token 逐步推送至客户端，实现打字机般逐字出现效果，从而降低感知等待时间64% 相似待验证使用长上下文模型时应精简输入上下文，避免把整个代码库塞进prompt，精准筛选相关文件既节省Token又提升输出质量64% 相似待验证上下文包括系统提示词、少样本示例、历史对话轮次以及当前用户输入，其内容越靠后通常对输出的影响越大。64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1028374API
curl https://kongchang.com/api/v1/knowledge/claims/1028374MCP
get_claim(id=1028374)