待验证50% 置信事实精确时间

正交矩阵初始化的特征值模长为1，在反复矩阵乘法中既不会指数增长也不会指数衰减，有效缓解梯度消失和爆炸

1

来源数

50%

置信度

长期有效

时效性

2026/9/9

首次发现

来源

417k参数循环神经网络自主生成Bad Apple视频全解析

涉及实体

正交初始化concept

相关事实

待验证梯度爆炸的数学本质与链式法则和矩阵连乘的谱范数相关，当雅可比矩阵的最大奇异值持续大于1时，梯度会随层数指数级增长73% 相似待验证将矩阵展平喂给MLP会因行数可变导致输入维度不固定，并破坏排列不变性72% 相似待验证当链式法则连乘的因子持续小于1时梯度指数衰减（消失），持续大于1时指数增长（爆炸）69% 相似待验证正交变换保持向量的L2范数和向量间夹角不变，正交矩阵的条件数恒为167% 相似待验证哈达玛变换用于量化预处理时不会引入额外的数值不稳定性，因为其条件数恒为166% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/884843

API

curl https://kongchang.com/api/v1/knowledge/claims/884843

MCP

get_claim(id=884843)