待验证50% 置信事实精确时间
注意力层的Q、K、V投影矩阵及模型首尾层对量化噪声更敏感，而MoE架构中的专家网络冗余度更高、量化误差容忍度更高
1
来源数
50%
置信度
长期有效
时效性
2026/8/7
首次发现
来源
相关事实
待验证量化误差具有非均匀分布特性，注意力机制的Q/K/V矩阵和最后几层对量化更为敏感80% 相似待验证外置天线数量多≠信号强，天线主要影响覆盖形状而非延迟，游戏体验更取决于QoS算法和处理器，别为天线数量溢价69% 相似待验证批次归一化层在小批次场景下统计量估计噪声很大，与Dice损失的区域级计算特性叠加会放大预测概率分布的波动69% 相似待验证Q值高估问题源于对多个含噪声估计取最大值时期望高于真实最大值，是Jensen不等式在max凸函数上的应用68% 相似待验证神经网络中各层对精度损失的敏感程度差异显著，patch projection等输入投影层敏感度高，中间主干的注意力与FFN模块对低精度更鲁棒68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/705396API
curl https://kongchang.com/api/v1/knowledge/claims/705396MCP
get_claim(id=705396)