待验证50% 置信事实精确时间

RMSNorm 相比传统 LayerNorm 去掉了均值中心化步骤，仅保留均方根归一化，计算更轻量

1

来源数

50%

置信度

长期有效

时效性

2026/8/25

首次发现

来源

微调Qwen3-4B实录：100条数据解决角色混乱问题

涉及实体

RMSNormconcept LayerNormconcept

相关事实

待验证RMSNorm相比LayerNorm对数值范围约束更强，输出分布更集中，减少量化时的溢出风险64% 相似待验证将矩阵展平喂给MLP会因行数可变导致输入维度不固定，并破坏排列不变性63% 相似待验证正交变换保持向量的L2范数和向量间夹角不变，正交矩阵的条件数恒为160% 相似待验证混元模型倾向于过度简化和平滑，存在明显锯齿，说明分辨率仍不足59% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/798528

API

curl https://kongchang.com/api/v1/knowledge/claims/798528

MCP

get_claim(id=798528)