待验证50% 置信权衡取舍精确时间

端侧模型的体积受限（通常在数百 MB 以内），理解深度与云端大模型相比仍有差距

1

来源数

50%

置信度

长期有效

时效性

2026/9/12

首次发现

来源

Relic：端侧加密的剪贴板保险库，让你复制过的一切随手可寻

涉及实体

on-deviceconcept

相关事实

待验证本地设备能流畅运行的模型规模通常在70亿至340亿参数之间，在复杂推理、长文理解等能力上与顶级云端模型存在显著差距72% 相似待验证量化后的 DeepSeek 模型需要数 GB 显存，Stable Diffusion 推理通常需要 4-8 GB 显存71% 相似待验证端侧模型推理需为KV缓存、中间激活值和系统开销预留内存，实际可支撑的上下文长度可能远低于云端版本的128K窗口71% 相似待验证端到端多模态大模型方案通常需要16GB以上显存69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/917067

API

curl https://kongchang.com/api/v1/knowledge/claims/917067

MCP

get_claim(id=917067)