待验证50% 置信事件精确时间
原团队的四节点混合 GPU 集群吞吐量在 36 小时内衰减约 18%,而 GPU 利用率保持平稳;原因被诊断为 KV 块碎片化导致 RSS 单调上升且 TTFT p95 漂移。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/18
首次发现
有效期至:2027/1/16
来源
涉及实体
相关事实
待验证GPU利用率(DCGM_FI_DEV_GPU_UTIL)衡量的是采样周期内至少有一个kernel在GPU上运行的时间占比70% 相似待验证混合卸载机制的代价是生成速度会慢于纯 GPU 模式67% 相似待验证传统推理将 Prefill 阶段和 Decode 阶段放在同一组 GPU 上串行执行,导致两类工作负载互相干扰,GPU 利用率难以最优化67% 相似待验证GPU的warp通常由32个线程组成,当同一warp中的线程走向不同分支时会产生warp divergence,导致部分线程空闲等待,降低并行效率66% 相似待验证FP32到FP16的转换在现代GPU的Tensor Core上可实现2-4倍的吞吐量提升66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1063646API
curl https://kongchang.com/api/v1/knowledge/claims/1063646MCP
get_claim(id=1063646)