待验证50% 置信事实精确时间
MPS(Multi-Process Service)是一种软件层的上下文共享机制,允许多个CPU进程的CUDA内核融合到同一组SM上并发执行
1
来源数
50%
置信度
长期有效
时效性
2026/10/6
首次发现
来源
涉及实体
相关事实
待验证MPS支持通过CUDA_MPS_PINNED_DEVICE_MEM_LIMIT环境变量为每个进程单独设置显存上限68% 相似待验证vLLM采用连续批处理技术允许不同用户请求在同一GPU批次中并行处理,提升吞吐量的同时使请求间内存边界管理更精细65% 相似待验证内存一致性模型定义了多处理器系统中不同核心对共享内存操作的可见性规则59% 相似待验证PAIR是一个虚拟推理路由器,能够将同一局域网内多台设备的计算资源聚合起来,形成一个可被智能体系统统一调度的算力池59% 相似待验证HydraNet-VSM的每个网络块中同时运行Mamba分支和Attention分支两个并行分支,处理相同输入后合并结果58% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/981319API
curl https://kongchang.com/api/v1/knowledge/claims/981319MCP
get_claim(id=981319)