待验证50% 置信权衡取舍精确时间

模型权重完整驻留在GPU显存中可避免显存换入换出开销，而超过GPU显存容量的模型需要在CPU和GPU之间搬运数据导致延迟显著上升

1

来源数

50%

置信度

长期有效

时效性

2026/9/30

首次发现

来源

单卡在家微调：Jev风格决策模型的实测表现

涉及实体

相关事实

待验证GPU的SM能同时驻留的Warp数量决定了GPU隐藏内存访问延迟的能力，制约Occupancy的核心资源是寄存器文件与共享内存80% 相似待验证模型能否完整放入显存比模型文件的绝对大小更重要，一旦发生CPU卸载，GPU与CPU间的数据传输开销会抵消小模型的空间优势79% 相似待验证超长上下文带来的KV缓存会随上下文长度线性增长，Unsloth优化卸载规划器优先保证KV缓存留在GPU上77% 相似待验证GPU上下文切换需保存完整GPU状态（包括寄存器文件、共享内存和L1缓存），数据量可达数百MB，而CPU上下文切换仅需保存几KB77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/962966

API

curl https://kongchang.com/api/v1/knowledge/claims/962966

MCP

get_claim(id=962966)