待验证50% 置信事实精确时间
上下文长度指模型单次请求能容纳的 token 总量，包含输入与输出；超出上限时不同服务处理方式不同，有的直接报错，有的静默截断。
1
来源数
50%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
待验证Token 层面的控制作用于生成阶段，而业务后果发生在服务接受并执行请求的时刻75% 相似待验证Continuous Batching在迭代级别管理批次，每完成一轮token生成即检查是否有请求完成并将空位分配给新请求，吞吐量相比静态批处理可提升数倍70% 相似待验证推理型模型和冗长的系统提示会显著改变一个任务实际消耗的Token数量70% 相似待验证自注意力机制允许模型在处理每个 Token 时动态权衡序列中所有其他 Token 的重要性，从而捕获长距离语义依赖68% 相似待验证Anthropic提供的提示词缓存机制允许将重复出现的长系统提示或技能定义缓存于服务端，后续调用仅需传输差异部分67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1006874API
curl https://kongchang.com/api/v1/knowledge/claims/1006874MCP
get_claim(id=1006874)