待验证50% 置信事实精确时间

GPTQ由Frantar等人于2022年提出，采用逐层最优二阶权重量化，能够在单GPU上完成175B参数级别模型的量化

1

来源数

50%

置信度

长期有效

时效性

2026/7/16

首次发现

来源

Android Studio本地AI编程：Gemma模型离线运行实测

相关事实

已验证GPT-3拥有175B参数，于2020年发布68% 相似已验证GPT-2有四个规格：117M、345M、762M和1.5B参数67% 相似已验证GPT-2到GPT-3参数量从15亿提升到1750亿，OpenAI 2020年论文证明参数规模提升可带来涌现能力的质变67% 相似待验证GPTQ基于二阶Hessian信息对权重逐层校准，实现W4A16量化65% 相似待验证vLLM支持的量化方案（GPTQ、AWQ、FP8等）可将模型显存占用降低2-4倍65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/530555

API

curl https://kongchang.com/api/v1/knowledge/claims/530555

MCP

get_claim(id=530555)