待验证50% 置信事实精确时间

PagedAttention 是连续批处理（Continuous Batching）的基础，新请求可以在任意时刻插入正在运行的批次而不必等整批结束。

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

本地部署大模型实战：Ollama、llama.cpp 与 vLLM 深度对比

涉及实体

PagedAttentionconcept 连续批处理concept vLLMproduct

相关事实

已验证连续批处理（Continuous Batching）采用迭代级别的调度粒度，每完成一个 token 生成便可移出已完成请求并插入新请求73% 相似已验证连续批处理（Continuous Batching）允许推理引擎在单次前向传播中动态合并多个请求，以最大化 GPU 利用率71% 相似待验证大模型服务商通常采用批处理技术提高吞吐量，连续批处理允许新请求动态插入正在处理的批次，而静态批处理需等待完整批次处理完毕69% 相似已验证连续批处理允许在任意迭代步插入新请求、移除已完成请求，使GPU在每一步保持满负荷运转67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1008114

API

curl https://kongchang.com/api/v1/knowledge/claims/1008114

MCP

get_claim(id=1008114)