待验证50% 置信基准精确时间

来自Google QAT检查点的int4构建在Gemma 4 E2B上精度仅比bf16低不到0.5个点（0.678 vs 0.683），而从bf16直接round出的int8构建掉了1.3个点。

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

一个Agent跑通AWS六大推理后端：精度、带宽与成本实测

涉及实体

Googlecompany Gemma 4 E2Bmodel QATconcept

相关事实

待验证GPT-4o 与 Qwen 2.5 Coder 32B 在 DataBugBench 中并列第二，均为4/5，准确率80%71% 相似待验证在 Instruct 模式下，MiniCPM-V 4.7 35B-A3B 用比 Qwen3.6 35B-A3B 更少的推理时间取得了更高的综合得分。70% 相似待验证在Artificial Analysis智能指数上，Qwen3.8 27b得34，Qwen3.6 27b得21，Gemma 4 26b得17，GLM 4.7 Flash得15，Qwen3 Coder Next仅969% 相似待验证GPTQ（2022年）和AWQ（2023年）能将70B参数的LLM量化到INT4精度，困惑度损失不到1%68% 相似待验证IQ3_S的基准表现基本接近BF16原始精度68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1011097

API

curl https://kongchang.com/api/v1/knowledge/claims/1011097

MCP

get_claim(id=1011097)