待验证85% 置信决策规则时间未知
如果主力工作是本地跑大语言模型（LLM），内存容量直接决定能跑多大参数的模型，36G/48G甚至更高才能流畅跑7B-13B量化模型，此时内存优先级高于一切
1
来源数
85%
置信度
中期 (~90 天)
时效性
-
首次发现
来源
涉及实体
相关事实
待验证运行本地LLM时显存容量往往比计算速度更为关键，显存容量直接决定了能运行哪些模型83% 相似待验证本地部署大语言模型的内存选型路径：仅CPU推理需内存≥模型参数量的1.2倍（如70B量化模型约需48-64G）；GPU推理主要看显存，内存作为加载缓冲128G足够；多模型/长上下文场景优先192G81% 相似待验证在本地同时运行中等规模的 LLM（如 7B 参数模型）通常需要至少 8GB 专用显存或更大的统一内存81% 相似待验证128GB的统一内存池意味着可以在本地运行700亿参数量级甚至更大的量化模型78% 相似待验证为本地大模型推理选择硬件时应优先考虑内存容量，其次是架构和内存带宽75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/478703API
curl https://kongchang.com/api/v1/knowledge/claims/478703MCP
get_claim(id=478703)