待验证50% 置信事实精确时间
Provisioned Throughput 是一种按小时计费的容量预留模式,用户为特定模型购买固定的输入输出 token 处理能力(以 Model Unit 计量),通常有最短承诺周期,且与具体模型版本强绑定。
1
来源数
50%
置信度
长期有效
时效性
2026/10/18
首次发现
来源
涉及实体
相关事实
待验证Prefill 阶段处理完整输入上下文,为所有输入 token 计算注意力并生成 KV 缓存,属于计算密集型操作,耗时与输入长度强相关。68% 相似待验证Prefill 阶段需要一次性处理全部输入 token,属于计算密集型操作;Decode 阶段每步仅生成一个 token,属于内存带宽密集型操作67% 相似待验证大模型服务采用 Token 配额机制,每次模型调用会消耗由输入和输出文本计量的 Token67% 相似待验证大模型服务商通常采用批处理技术提高吞吐量,连续批处理允许新请求动态插入正在处理的批次,而静态批处理需等待完整批次处理完毕67% 相似待验证token消耗的精确计量依赖于对Cursor官方API响应体中usage字段(包含prompt_tokens、completion_tokens)的实时解析66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1060483API
curl https://kongchang.com/api/v1/knowledge/claims/1060483MCP
get_claim(id=1060483)