[控场AI]
待验证50% 置信事实精确时间

TokenGate强调在预填充阶段实现加速，而非仅仅优化解码阶段。

1
来源数
50%
置信度
长期有效
时效性
2026/10/26
首次发现

来源

TokenGate：斯坦福伯克利新注意力机制让长上下文预填充提速11.3倍

涉及实体

TokenGateconcept

相关事实

待验证TokenSpeed聚焦于推理阶段的Token生成加速79% 相似待验证每几个token舍入一次的策略保留了缓冲区带来的解码加速效果。68% 相似待验证对于自回归生成这种逐 token 输出的任务，内存带宽往往是决定推理速度的关键因素66% 相似待验证Continuous Batching采用迭代级调度，在每一个解码步做调度决策，是高并发处理能力的关键技术之一65% 相似待验证TTFT（首 Token 延迟）主要由提示处理（prefill）阶段决定，与输入 token 数量近似线性相关。65% 相似

引用此条事实

Stable URI
https://kongchang.com/claim/1098945
API
curl https://kongchang.com/api/v1/knowledge/claims/1098945
MCP
get_claim(id=1098945)