待验证60% 置信事实精确时间
STE(Straight-Through Estimator)在前向传播中执行截断取整,但在反向传播时将梯度直通(近似梯度为1),以解决量化操作不可导的问题,由Bengio等人2013年论文正式系统化
2
来源数
60%
置信度
长期有效
时效性
2026/7/24
首次发现
来源
AI应用工程师面试指南:模型量化与推理部署核心考点
redditr/learnmachinelearning2026/7/9
相关事实
待验证直通估计器(STE)由Bengio等人于2013年提出,是极端量化训练的理论基础70% 相似待验证共轭矩量测度与原分解的唯一差别是用势函数高斯变换后的梯度做传输,而非直接用势函数的梯度61% 相似待验证2010年Glorot与Bengio的论文系统性地揭示了梯度消失问题的机制61% 相似待验证Cordero-Erausquin和Klartag在2015年证明了矩量测度分解定理:任意具有一阶矩、重心为零且不支撑于超平面上的概率测度ρ可被分解为特定形式,其中传输映射是凸函数u的梯度60% 相似待验证Xavier 初始化(Glorot, 2010)和 He 初始化(He et al., 2015)基于高斯分布或均匀分布,通过设计方差分别为 1/n 和 2/n(n 为输入维度)来维持梯度稳定流动58% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/611104API
curl https://kongchang.com/api/v1/knowledge/claims/611104MCP
get_claim(id=611104)