待验证50% 置信事实精确时间
在 TP=4 下将 vLLM 的 gpu-memory-utilization 设为 0.92 会导致相同权重 OOM，设为 0.88 可稳定运行，原因是 CUDA graph capture 需要预留显存余量。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/18
首次发现
有效期至：2027/1/16
来源
涉及实体
相关事实
待验证vLLM默认通过--gpu-memory-utilization参数将GPU显存的90%纳入规划，剩余部分才作为KV缓存使用。69% 相似待验证GPU计算场景中零拷贝可通过CUDA的统一虚拟地址空间（UVA）、页锁定内存（Pinned Memory）和GPUDirect技术实现68% 相似待验证在Ollama的Modelfile中设置较低的num_ctx参数（如2048）可限制上下文窗口，减少KV Cache内存占用，避免内存不足导致的性能骤降68% 相似待验证GKE托管GPU采集器只导出四个指标：duty_cycle、memory_used、memory_total和request，没有SM占用率、Tensor Core活跃度和功耗数据67% 相似待验证GLM-5.3-Flash借助Unsloth的1-bit GGUF量化可在102GB的RAM与VRAM组合内存上运行，上下文长度达到1M token66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1063642API
curl https://kongchang.com/api/v1/knowledge/claims/1063642MCP
get_claim(id=1063642)