待验证50% 置信权衡取舍精确时间

在本地同时运行中等规模的 LLM（如 7B 参数模型）通常需要至少 8GB 专用显存或更大的统一内存

1

来源数

50%

置信度

长期有效

时效性

2026/7/6

首次发现

来源

Hermes Agent 安装实战：3分钟跑通AI智能体完整流程

bilibili比特光锥_BightCone2026/7/3

相关事实

待验证128GB的统一内存池意味着可以在本地运行700亿参数量级甚至更大的量化模型81% 相似待验证如果主力工作是本地跑大语言模型（LLM），内存容量直接决定能跑多大参数的模型，36G/48G甚至更高才能流畅跑7B-13B量化模型，此时内存优先级高于一切81% 相似待验证Llama 3 8B模型（80亿参数）运行约需7GB显存79% 相似已验证微调一个7B参数的模型可能需要数十GB显存进行全参数微调78% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/112920

API

curl https://kongchang.com/api/v1/knowledge/claims/112920

MCP

get_claim(id=112920)