如果推理服务器把每个请求当作孤立事件处理，就会反复付出重复的 prefill 成本，同时难以对同一会话的请求做统一的资源规划。