待验证50% 置信事实精确时间
360M参数模型量化后内存占用低（可在数GB内运行），生成速度快，适合边缘设备和实时交互。
1
来源数
50%
置信度
长期有效
时效性
2026/10/22
首次发现
来源
涉及实体
相关事实
待验证2B参数规模的模型在推理阶段可在单张消费级GPU甚至高性能CPU上运行，INT4量化后内存占用通常不超过2GB69% 相似待验证6GB显存可运行基础模型如SD 1.5，生成512×512常规尺寸图像，单张生成时间在数秒到十几秒68% 相似待验证在4GB显存上运行智能NPC对话所使用的模型是经过量化压缩的小参数模型，一个量化到4-bit的30亿参数模型权重占用可压到2GB以内。68% 相似待验证2B参数的模型在INT4量化后通常仅需约1-2GB内存，能在主流智能手机、嵌入式开发板等设备上运行67% 相似待验证Embedding 模型（如 BGE、text-embedding-3-small）相比 LLM 体量小得多，通常可跑在 CPU 或低规格 GPU 上，推理耗时在毫秒级67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1084811API
curl https://kongchang.com/api/v1/knowledge/claims/1084811MCP
get_claim(id=1084811)