待验证50% 置信事实精确时间
SR-SWA 将活跃的参考 token 数量限制在一个固定容量内,使得单步注意力计算成本不随文档长度增长。
1
来源数
50%
置信度
长期有效
时效性
2026/10/30
首次发现
来源
涉及实体
相关事实
待验证限流(Rate Limiting)指系统在单位时间内限制用户可发出的请求数量65% 相似待验证缓存输入Token通常享有原价25%-50%的折扣,因为无需重新计算嵌入和注意力权重,只需从缓存加载预计算的KV向量65% 相似待验证在已开启提示缓存的框架中,缓存命中的单价只有新输入的1/50,因此判断量不大时成本节省有限65% 相似待验证当项目文件数量超出模型单次可处理的 token 上限时,通过 @ 标记手动圈定相关文件可减少答非所问、降低 token 消耗64% 相似待验证生产级Agent需要设置Token预算上限并实现调用频率限制,以避免因递归调用、无效重试或上下文窗口过大产生超预期API费用64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1113972API
curl https://kongchang.com/api/v1/knowledge/claims/1113972MCP
get_claim(id=1113972)