待验证50% 置信事实精确时间

显存卸载指在推理过程中将暂时不参与计算的权重或激活值从 GPU 显存转移到系统内存或磁盘，代价是重新搬回 GPU 产生延迟导致推理速度下降

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

ComfyUI-Olm-YuE2：分阶段可控的AI音乐生成工作流

涉及实体

显存卸载concept

相关事实

待验证当模型参数量超出GPU显存容量时需要offload到系统内存，推理速度会从数十Token/秒骤降至个位数79% 相似待验证CPU-GPU混合推理（offloading）方案会带来显著的推理速度下降77% 相似待验证GPU非确定性操作在设计上优先考虑性能而非确定性，强制固定执行顺序会引入大量同步屏障显著降低并行效率75% 相似待验证GPU的SIMD架构在推理阶段面临结构性错配，推理时batch size较小导致算力利用率不足，内存带宽成为核心瓶颈73% 相似待验证GPU-CPU 同步在高并发场景下阻塞时间不确定，可能在某些请求上引入数百微秒甚至毫秒级的额外等待73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/900547

API

curl https://kongchang.com/api/v1/knowledge/claims/900547

MCP

get_claim(id=900547)