待验证50% 置信事实精确时间

实验结论的边界包括：仅使用 0.5B 小模型、单卡、每种负载只跑三轮；换成 7B 或 70B 模型、不同服务器或更长 prompt 时数字都会变化。

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/13

首次发现

有效期至：2027/1/11

来源

同一块H100，每百万Token成本为何差5.5倍？

涉及实体

Qwen2.5-0.5B-Instructmodel

相关事实

待验证Dify支持通过Ollama接入本地部署的模型，但消费级显卡通常只能流畅运行7B~14B参数量的模型，更大参数模型需要多卡或集群。68% 相似待验证模型体积越大通常能力越强，而模型大小受限于GPU资源；7B、8B乃至4B这类较小模型往往单张显卡就能运行68% 相似已验证一个7B参数的模型经过4-bit量化后仅需约4GB显存即可运行68% 相似已验证70B级别的模型即便经过量化，往往也需要40GB以上显存或多卡配置68% 相似待验证模型参数中的B代表十亿参数，0.8B量级模型可在消费级显卡甚至部分移动设备上运行，适合边缘场景68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1014551

API

curl https://kongchang.com/api/v1/knowledge/claims/1014551

MCP

get_claim(id=1014551)