待验证50% 置信事实精确时间

更换注意力内核和推理框架VLLM在全精度16-bit QWEN 3 30B上会产生不同输出，差异来自数学计算路径本身

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/16

首次发现

有效期至：2026/12/15

来源

本地大模型变笨了？揭开Q4量化陷阱与自测指南

涉及实体

vLLMproduct QWEN 3 30Bmodel

相关事实

待验证Qwen3.8-27B默认开启Thinking模式，推理深度分为Low/Medium/X-High三档71% 相似待验证Qwen3 27B在64层中的48层采用线性注意力，其余16层搭配标准门控注意力68% 相似待验证Qwen3 27B 的 4-bit 量化在主流基准任务上与 FP16 基准的性能差距处于可接受范围内，表现稳健67% 相似待验证作者提到此前测试的35B、3B等其他模型在看板任务上的表现反而不如Qwen3 27B的Q2版本67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/925957

API

curl https://kongchang.com/api/v1/knowledge/claims/925957

MCP

get_claim(id=925957)