Unverified60% confidenceFactExact time
本地部署大模型时，显存占用由模型权重和运行时内存（主要是KV缓存）两部分组成
2
Sources
60%
Confidence
Long-term
Relevance
9/7/2026
First Seen
Sources
Related Entities
Related Claims
Unverified运行本地LLM时显存容量往往比计算速度更为关键，显存容量直接决定了能运行哪些模型75% similarUnverified运行大模型除模型本身外还需预留1-2GB显存用于KV Cache（键值缓存）74% similarUnverified本地部署大语言模型的内存选型路径：仅CPU推理需内存≥模型参数量的1.2倍（如70B量化模型约需48-64G）；GPU推理主要看显存，内存作为加载缓冲128G足够；多模型/长上下文场景优先192G74% similarUnverified大模型默认是无状态的，ChatMemory 用于让模型具备上下文记忆，支持基于内存存储和基于数据库存储两种方式71% similarUnverified模型规模越大，记忆能力反而越强，因为更大的模型拥有更强的参数容量来存储低频样本71% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/870159API
curl https://kongchang.com/api/v1/knowledge/claims/870159MCP
get_claim(id=870159)