待验证50% 置信基准精确时间
在 Spider 任务上，NgramRL 实测 rollout 吞吐相比同步版提升 1.38 倍，逼近 1.40 倍的 CPU-GPU overlap 理论上限。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/26
首次发现
有效期至：2027/1/24
来源
涉及实体
相关事实
待验证据 ZDNet Korea 报道，VIDRAFT 官方公布：在同一 NPU 上开启 VKORE 后，单用户推理延迟提升 3.8 倍，并发服务器吞吐提升 4.1 倍，训练吞吐对比 CPU 基线约 170 倍。67% 相似已验证CPU+GPU混合推理采用层级卸载机制，通过n_gpu_layers参数控制卸载层数，主要瓶颈是PCIe带宽延迟，通常使生成速度降至纯GPU推理的1/3到1/267% 相似待验证实验在32芯片的NPU集群和一块参考GPU上运行同一模型、相同初始化、相同数据和训练计划，NPU与GPU的损失轨迹相关性达到0.99。67% 相似待验证vLLM结合连续批处理策略，在相同硬件上的吞吐量较Hugging Face原生实现提升可达24倍66% 相似待验证对于批量图像处理等高度可并行化任务，GPU 并行计算的速度可以比 CPU 快一到两个数量级66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1098260API
curl https://kongchang.com/api/v1/knowledge/claims/1098260MCP
get_claim(id=1098260)