待验证50% 置信基准精确时间

LoopVQ与TaSQ结合时，在0.25比特/元素的极低比特率下仍能保留大部分BF16精度。

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/11/4

首次发现

有效期至：2027/2/2

来源

LoopVQ：循环Transformer的亚1比特KV缓存量化

涉及实体

LoopVQconcept TaSQconcept

相关事实

待验证Qwen3 27B 的 4-bit 量化在主流基准任务上与 FP16 基准的性能差距处于可接受范围内，表现稳健69% 相似待验证AWQ（激活感知权重量化）在4-bit量化下通常优于GPTQ67% 相似待验证混合精度量化对参数量大但精度不敏感的主干网络使用INT4等激进低精度，对精度敏感的文本编码器、QKV投影保留INT8或FP1667% 相似待验证GPTQ、AWQ、SqueezeLLM等量化方法在4-bit精度下仍能保持接近原始模型95%以上的性能66% 相似待验证GPTQ（2022年）和AWQ（2023年）能将70B参数的LLM量化到INT4精度，困惑度损失不到1%66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1134272

API

curl https://kongchang.com/api/v1/knowledge/claims/1134272

MCP

get_claim(id=1134272)