待验证50% 置信事实精确时间
GPU上特殊函数单元（SFU）的数量远少于普通CUDA核心或张量核心，当大量线程同时请求超越函数计算时SFU极易成为吞吐瓶颈
1
来源数
50%
置信度
长期有效
时效性
2026/10/4
首次发现
来源
涉及实体
相关事实
待验证GPU 等加速硬件的调度与传统 CPU 进程调度存在根本差异，CUDA 流、张量并行、KV Cache 管理、模型权重的显存换入换出是传统内核调度器无法感知的语义单元74% 相似已验证CPU+GPU混合推理采用层级卸载机制，通过n_gpu_layers参数控制卸载层数，主要瓶颈是PCIe带宽延迟，通常使生成速度降至纯GPU推理的1/3到1/273% 相似待验证传统推理将 Prefill 阶段和 Decode 阶段放在同一组 GPU 上串行执行，导致两类工作负载互相干扰，GPU 利用率难以最优化71% 相似待验证GPU显存中的KV Cache占用与输入Token数量线性相关70% 相似待验证新一代推理芯片和GPU集群的规模化部署摊薄了单位计算成本70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/971812API
curl https://kongchang.com/api/v1/knowledge/claims/971812MCP
get_claim(id=971812)