待验证50% 置信事实精确时间

在 Strix Halo 上使用 4-bit 量化（Q4K XL）时，42% 的工具调用失败，原因是模型在工具定义中多写了一个 `arguments` 参数。

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/29

首次发现

有效期至：2027/1/27

来源

海外博主实测千亿MoE模型本地部署：量化与工具调用的关键教训

bilibili枫叶边城2026/10/29

涉及实体

Strix Haloproduct Q4K XLconcept

相关事实

待验证Qwen4所用架构的主模型为125B参数，每个Token只激活6B，采用MoE架构，包含512个专家，原生上下文262K。64% 相似待验证V4-Pro的总参数与活跃参数比例约为32:1的稀疏比63% 相似部分验证Qwen 3 Max和DeepSeek-V3均采用MoE架构，总参数量达数千亿，但实际推理激活参数仅为总量的一小部分63% 相似待验证星辰4.0 29B每次推理计算量大致与4B稠密模型持平，显存占用和算力需求由激活参数量决定而非总参数量62% 相似待验证Q4_K_M量化大约表示每个权重4位，并对异常值采用特定方案，在内存受限的机器上通常是甜点选择。62% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1112033

API

curl https://kongchang.com/api/v1/knowledge/claims/1112033

MCP

get_claim(id=1112033)