待验证50% 置信事实精确时间

pricehunt使用llama.cpp并将MoE权重存放在系统内存中（--cpu-moe），显存占用仅4GB，可在普通8GB显卡上运行。

1

来源数

50%

置信度

长期有效

时效性

2026/10/14

首次发现

来源

本地视觉模型实战：自动找到AliExpress同款最低价

涉及实体

llama.cppproduct pricehuntproduct

相关事实

待验证该 PR 的目标用户是使用单张消费级显卡（如 8GB、12GB、16GB 显存）运行超出显存容量的 MoE 模型、依赖 CPU offload 的个人用户72% 相似待验证Kimodo CPP 运行内存（RAM）最低仍需 4GB，模型权重本身约占 25GB 存储空间65% 相似待验证运行复杂Agent工作流建议使用4090或5090双卡，因单卡32GB显存在模型权重占用后留给KV Cache的空间有限64% 相似已验证llama.cpp通过GGUF格式对模型权重进行4-bit、8-bit等量化压缩，大幅降低显存和内存占用64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1031904

API

curl https://kongchang.com/api/v1/knowledge/claims/1031904

MCP

get_claim(id=1031904)