待验证50% 置信基准精确时间

整体 P90 尾部延迟下降 22%。

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/13

首次发现

有效期至：2027/1/11

来源

Vercel优化仓库检出与Git LFS下载,构建准备提速54%

涉及实体

相关事实

已验证量化技术将FP32（32位）权重降至INT4（4位），理论压缩比达8倍，但会引入精度损失58% 相似待验证从BF16到FP8内存占用减半57% 相似待验证在 GPU fp16 下（RTX 5090），Largha-150M-v1 公布的每次决策 p50 延迟为 21.0 ms。57% 相似待验证140GB的FP16 70B模型经4-bit量化后可压缩至约35-40GB，通信开销降低约75%；2-bit量化可压缩至约18GB但带来精度损失56% 相似待验证13B-14B级别模型（4-bit量化）在该配置下速度下降到每秒2-5个token56% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1020720

API

curl https://kongchang.com/api/v1/knowledge/claims/1020720

MCP

get_claim(id=1020720)