待验证50% 置信事实精确时间

该模型加载时先按全精度建约1.29GB空壳再读入643MB全重，内存峰值可达约3400MB

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/25

首次发现

有效期至：2026/12/24

来源

开源判断模型实测：为什么它中文只有20分却值得部署

涉及实体

开源判断模型model

相关事实

已验证以 float16 精度为基准每个参数约占 2 字节，7B 模型约需 14GB 显存/内存，70B 模型约需 140GB77% 相似待验证1亿条1536维的OpenAI embedding向量以float32存储需要约600GB内存，经8位标量量化后可压缩至约150GB77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/950990

API

curl https://kongchang.com/api/v1/knowledge/claims/950990

MCP

get_claim(id=950990)